美공정위, 오픈AI 조사 돌입…"소비자보호법 위반 여부"

미국 규제 당국이 생성형 인공지능(AI)의 위험성에 대해 공식 조사에 돌입했다. 챗GPT를 만든 오픈AI가 첫 타깃이다.

13일(현지시간) 파이낸셜타임스(FT)에 따르면 FTC는 이번 주 챗GPT 개발사 오픈AI에 20장짜리 공문을 보내 회사가 AI 제품에 연관된 위험에 대처하는 방법 등에 대한 자료 요구했다. FTC는 지난 5월 "기업이 소비자에게 실질적이고 실질적인 영향을 미칠 수 있는 방식으로 생성형 AI를 포함한 AI 기술 전반을 사용하는 방법에 주시하고 있다"며 업계에 경고장을 보낸 바 있다.

FTC는 오픈AI가 불공정하거나 기만적인 개인정보보호 관행에 관여했는지 여부, 챗GPT가 허위 정보를 생성해 소비자의 평판에 피해를 입혔는지 등을 면밀히 들여다볼 방침이다. 오픈AI의 정보보안 관행이 소비자보호법을 위반하지 않았는지를 검토하기 위한 조치다.

이를 위해 FTC는 오픈AI에 "챗GPT가 실존 인물에 대해 거짓되거나 호도하거나 폄하하는 문장을 만들어 회사에 불만이 접수된 사례를 제출하고, 관련 문제에 대한 대응 조치를 밝혀라"고 요구했다. 또 오픈AI가 챗GPT를 교육하는 데 어떤 자료를 사용했는 그 자료의 출처와 취득 방식도 밝히라고 했다. 특히 오픈AI가 지난 3월 공지한 사용자의 개인정보 유출 사고와 관련한 자료도 요구했다.

이날 미국 하원 법사위원회 청문회에서 관련 사안에 대한 질의가 잇따랐다. 일부 공화당 의원들은 FTC의 강경한 법 집행을 강하게 비판하며 "(소비자)명예훼손은 통상 연방법이 아닌 주법을 적용해 기소한다"고 지적했다. 리나 칸 FTC위원장은 "FTC의 법 집행은 명예훼손에 초점을 맞춘 게 아니라 AI 모델을 개발할 때 개인정보를 남용하는 게 FTC법이 규정한 사기나 기만의 유형이 될 수 있다"고 답했다.

그는 또 "AI 기업들은 방대한 양의 데이터를 공급받으면서도 어떤 유형의 데이터가 삽입되고 있는지에 대한 확인 절차가 없는 게 문제"라고 주장했다. "누군가의 질문에 대한 응답 차원에서 다른 사람들의 민감한 정보가 노출되고, 그 과정에서 허위 정보 혹은 명예훼손성 발언도 포함된다고 보고받았다"며 "이는 우리가 우려하는 사기 및 속임수의 영역"이고 주장했다.

김리안 기자 knra@hankyung.com