94억건 카톡대화 무단 사용…AI챗봇 이루다, 1억 과징금

AI 챗봇 이루다 /사진=스캐터랩

인공지능(AI) 챗봇 '이루다'의 개발사 스캐터랩이 개인정보보호법을 위반했다는 이유로 총 1억330만원의 과징금과 과태료 처분을 받았다.
개인정보보호위원회는 28일 오전 서울 종로구 정부서울청사에서 전체회의를 열고 스캐터랩의 개인정보보호법 위반사항 8개 항목에 대해 과징금 5550만원과 과태료 4780만원을 부과하는 내용을 의결했다고 밝혔다.

이는 AI 기술 기업의 무분별한 개인정보 처리를 제재한 첫 사례다. 이루다가 개인정보 침해 논란 속에 지난 1월11일 서비스를 중단한지 107일만에 내려진 결정이다.


개인정보위가 지난 1월12일부터 이루다와 관련한 개인정보 침해 여부를 조사한 결과 스캐터랩은 지난해 2월부터 지난 1월까지 페이스북 이용자 대상 챗봇 서비스인 이루다를 개발·운영하면서 학습·응답 데이터로 쓰인 카카오톡 대화에 포함된 이름과 휴대전화번호, 주소 등 개인정보를 삭제하거나 암호화하는 등의 조치를 전혀 하지 않았다.

이루다가 학습한 데이터는 스캐터랩의 별도 서비스인 '텍스트앳', '연애의과학'에서 수집한 약 60만명의 카톡 대화 문장 94억여건으로 집계됐다. 스캐터랩은 학습 데이터와 별도로 20대 여성의 카톡 대화 문장 약 1억건을 응답 데이터베이스(DB)로 구축해 이루다가 이중 한 문장을 선택해 발화하도록 했다.

스캐터랩은 '텍스트앳'과 '연애의과학' 개인정보 처리방침에 '신규 서비스 개발'을 포함시켜 이용자가 이 서비스에 로그인하면 카톡 대화 제공에 동의한 것으로 간주했다는 입장을 피력했다.


반면 개인정보위는 스캐터랩이 이용자 개인정보를 수집한 목적을 벗어나 카톡 대화라는 개인정보를 이용한 것이라고 판단했다. '신규 서비스 개발'이라는 기재만으로 이용자가 이루다 개발과 운영에 자신의 카톡 대화가 이용될 것을 예상하기도 어렵다는 지적이다.

개인정보위는 스캐터랩이 개발자의 코드 공유·협업 사이트로 알려진 깃허브(Github)에 2019년 10월부터 지난 1월까지 이름(성은 미포함) 22건과 구·동 단위 지명정보 34건, 성별, 대화 상대방과의 관계 등이 포함된 카톡 대화 문장 1431건을 AI 모델과 함께 게시한 것도 위법 행위라고 봤다. 가명정보를 불특정 다수에게 제공하면서 특정 개인을 알아보기 위해 사용될 수 있는 정보를 포함했다는 이유다.

개인정보위는 조사 과정에서 스캐터랩이 성생활 등에 관한 정보를 처리할 때 명확히 동의를 받지 않았다거나 법정대리인 동의 없이 만 14세 미만 아동의 개인정보를 수집한 행위, 회원 탈퇴한 자나 1년 이상 서비스 미사용자의 개인정보를 파기하지 않은 행위 등도 위법하다고 판단했다.

윤종인 개인정보보호위원회 위원장이 28일 서울 종로구 정부서울청사에서 개인정보보호위원회 제7회 전체회를 진행하고 있다. /사진=개인정보보호위원회

윤종인 개인정보보호위원장은 "이루다 사건은 전문가들조차 의견이 일치되지 않아 그 어느 때보다도 격렬한 논쟁 끝에 시정조치가 결정됐다"며 "본 건에 대한 처분 결과가 AI 기술 기업이 개인정보를 이용할 때에 올바른 개인정보 처리 방향을 제시하는 길잡이가 되고, 기업이 스스로 관리·감독을 강화해 나가는 계기가 되기를 바란다"고 말했다.

개인정보위는 향후 AI 개발자나 운영자가 현장에서 활용할 수 있는 'AI서비스의 개인정보 보호 자율점검표'를 발표하고 현장 컨설팅을 지원할 방침이다.

한편, 개인정보위의 이번 결정은 현재 진행 중인 이루다 개인정보 침해 피해자 집단소송에도 영향을 미칠 전망이다. 스캐터랩의 서비스로 개인정보 침해 피해를 당했다는 이용자 254명은 지난달 31일 서울동부지법에 스캐터랩을 상대로 2억원대 손해배상 청구 소송을 제기했다. 원고 1인당 80만원 정도의 손해배상액이 산정됐다.