ChatGPT에 살해 계획 털어놓은 美 남성, 오픈AI 신고로 체포.. 원래 넘길 수 있다?

"내가 여기서 하는 말은 나만 안다."

많은 사람들이 챗GPT 대화창을 이렇게 여깁니다.

검색창이나 메모장처럼, 그저 내 화면 안에서 끝나는 사적인 공간이라고 말입니다.

▲ 완전히 비공개라고 믿었던 대화창

그런데 최근 오픈AI가 이용자의 대화 내용을 연방수사국(FBI)에 직접 신고해 한 남성이 체포되는 일이 있었습니다.

이 소식에 시장, 아니 이용자들 사이에선 이런 이야기들이 돌았습니다.

"AI랑 나눈 대화는 무조건 비밀 보장되는 거 아니야?"

"개인정보처리방침에 안전하게 지킨다고 쓰여 있으니 걱정 없을 거야."

"이번 신고는 정말 위급했으니까 예외적으로 그런 거겠지, 흔한 일은 아닐 거야."

개인정보를 가장 철저히 지켜야 할 회사가,

실제로는 이용자의 대화를 들여다보고 제3자에게 넘겼다는 사실.

이 부분을 하나씩 뜯어보겠습니다.

소문 1. "AI와의 대화는 무조건 비밀 보장된다"

결론부터 말하면, 처음부터 그런 약속은 존재하지 않았습니다.

오픈AI의 개인정보 처리방침을 직접 찾아보면, 이런 조항이 이미 들어 있습니다.

▲ 오픈AI 개인정보 처리방침에 이미 존재했던 예외 조항

오픈AI는 "제품, 직원, 사용자 또는 공공의 안전, 보안 및 무결성을 보호하기 위한 경우"

이용자의 개인정보를 "정부 당국... 또는 기타 제3자에 공유할 수 있다"고 명시하고 있습니다.

 

즉 이번 신고는 방침을 어긴 '유출 사고'가 아니라,

애초에 약관에 박혀 있던 조항을 실제로 발동한 사례입니다.

문제는 이 조항의 존재를 얼마나 많은 이용자가 실제로 읽고, 인지하고 있었느냐는 겁니다.

소문 2. "정책이 있으니 안전하게 관리될 것"

이 소문도 절반만 맞습니다.

정책은 있지만, 그 판단은 전적으로 회사 내부에 맡겨져 있습니다.

▲ 오픈AI가 공식 블로그를 통해 인정한 대화 모니터링 체계

오픈AI는 최근 블로그를 통해

"타인에게 해를 끼치려는 계획을 감지하면 전담팀이 검토하며, 이를 근거로 계정을 정지하거나 수사기관에 알릴 수 있다"고

공식적으로 밝혔습니다.

이 말은 뒤집으면, 이용자가 인지하지 못하는 사이 대화 내용이 자동으로 스캔되고,

특정 기준에 걸리면 사람이 직접 열람한다는 뜻이기도 합니다.

'위급한 경우에만'이라는 전제가 있지만, 그 위급함을 판단하는 기준표는 공개돼 있지 않습니다.

소문 3. "이번 신고는 예외적인 일회성 조치였을 것"

이 부분이 가장 문제입니다.

같은 회사가 완전히 다른 판단을 내린 사례가 이미 있었기 때문입니다.

▲ 신고했을 때와, 신고하지 않았을 때

월스트리트저널 보도에 따르면,

캐나다 브리티시컬럼비아주 총기난사범도 범행 몇 달 전 챗GPT에 구체적인 범행 시나리오를 반복해서 남겼습니다.

오픈AI 직원 약 12명이 이 대화를 인지하고 있었지만, 회사는 당국에 신고하지 않았습니다.

이 범인은 결국 가족을 살해한 뒤 학교에서 총기를 난사해 여러 명이 숨졌습니다.

반면 플로리다 사례에서는 정확히 같은 종류의 위험 신호를 두고 신고를 선택했습니다.

한쪽은 신고해서 개인정보를 넘겼고, 한쪽은 신고하지 않아 개인정보를 지켰습니다.

이 판단이 정확히 어떤 기준으로 갈리는지, 이용자는 알 방법이 없습니다.

예외가 아니라, 회사 재량에 따라 언제든 뒤집힐 수 있는 판단이라는 게 핵심입니다.

문서로 다시 정리하면

오픈AI가 실제로 공개한 문구와, 두 사건에서 보인 조치를 나란히 놓으면 이 불투명함이 더 뚜렷해집니다.

항목	공식 정책 문구	실제 조치
개인정보 처리방침	"공공 안전 위해 시 제3자 공유 가능"	플로리다: 실제 FBI에 공유
이용정책	"개인정보를 존중하며 침해 안 함"	동시에 대화 스캔·검토 체계 운영
위해 감지 시 대응	"임박한 위협 시 신고 가능"	캐나다: 인지하고도 신고 안 함

정책 문구는 넓고 모호하게 쓰여 있고, 실제 조치는 사건마다 다르게 나타났습니다.

약관 동의 버튼과, 그 뒤에 숨은 조항

회원가입 창에서 사람들은 대개 약관 전문을 읽지 않고 '동의' 버튼부터 누릅니다.

수십 페이지짜리 개인정보처리방침 속 몇 줄짜리 예외 조항까지 챙겨 읽는 사람은 많지 않습니다.

그 몇 줄이, 이번처럼 실제 개인의 사적인 대화를 국가 수사기관에 넘기는 근거가 됐습니다.

개인정보를 지키겠다고 약속한 회사가, 같은 문서 안에 그 약속을 뒤집을 수 있는 조항을 함께 넣어둔 셈입니다.

이용자가 누른 동의 버튼 하나에 이렇게 넓은 재량이 함께 딸려 있었다는 걸, 이번 사건이 새삼 드러냈습니다.

여러분은 이런 조항, 알고 계셨나요?

AI 기업이 위험을 감지하면 대화 내용을 수사기관에 넘길 수 있어야 한다고 보시나요, 아니면 그 어떤 이유로도 개인정보는 절대 넘기면 안 된다고 보시나요.