공공안전 AI 랩 (PSAIL)

AI가 틀렸을 때, 책임은 누가 지나요?

우리 회사 AI가 내린 판단이 잘못됐을 때, 그 책임은 누가 지나요?채용 지원자를 평가하는 AI, 대출 심사를 돕는 AI, 환불을 안내하는 챗봇. AI가 업무에 들어올수록 함께 정해야 할 것이 있습니다. 누가 결과를 검토하고, 잘못됐을 때 누가 바로잡을 것인가입니다.Logicalis의 2026년 글로벌 CIO 보고서를 보면, 응답자의 94%는 지난 1년간 조직의 AI 도입 의욕이 커졌다고 답했습니다. 하지만 AI 통제 체계가 도입 속도를 따라갈 수 있다고 ‘매우 확신’한 응답은 34%에 불과했습니다. AI를 쓰려는 의욕만큼 관리하고 통제할 준비가 갖춰진 것은 아니라는 뜻입니다.경찰청에서 AI 정책을 맡으며 적은 문장이 있습니다.“AI에게 책임을 묻는 시스템은, 사실상 아무에게도 책임을 묻지 않는 시스템이..

범죄자는 이미 AI를 쓰고 있었다 — 경찰청 AI 도입의 출발점

"우리가 AI를 쓰지 않으면, 범죄자들이 AI를 쓰기 시작할 것이다."2025년 한국을 찾은 마이크로소프트 사티아 나델라 CEO가 강연에서 이런 말을 했습니다.비유가 아니었습니다. 2024년 한 해 보이스피싱 피해액은 8,545억 원으로 역대 최고를 기록했고, 이듬해에는 1조 2,578억 원으로 사상 처음 1조 원을 넘어섰습니다. 딥페이크 성범죄 영상물에 대한 방송통신심의위원회 시정 요구는 2021년 1,913건에서 2024년 23,107건으로 12배 늘었습니다. 범죄자들은 이미 알고리즘을 무기로 쓰고 있었습니다.그 무렵 제가 맡은 경찰청의 AI 인프라는 GPU 몇 장이 전부였습니다. 네이버나 카카오 같은 기업들이 수천 장을 풀가동하던 시점이었습니다. 수십 개 시스템에 수십 테라바이트의 데이터가 쌓여 있..