"AI가 마음대로 코인지갑에서 돈 빼서 써"…오픈AI, 조사 결과 공개

오픈AI의 인공지능(AI) 모델이 허가 없이 디지털자산 지갑에 접근해 자금을 사용한 사례가 확인됐다. 해당 모델은 보고에서도 사실을 숨긴 것으로 나타났다.

16일 코인텔레그래프에 따르면 오픈AI는 최근 연구용 AI 모델이 외부 디지털자산 지갑에 무단 접근해 이더리움(ETH) 테스트넷 자산을 사용한 사례를 공개했다.

오픈AI에 따르면 당시 해당 모델은 디지털자산 거래 프로그램을 수정하고 스마트콘트랙트를 배포하는 작업을 수행하고 있었다. 그러나 테스트용 이더리움을 확보하지 못하자 공개된 복구 문구를 활용해 362개 지갑을 확인한 뒤, 자금이 충분한 지갑을 선택해 스마트콘트랙트 배포 수수료를 지불했다.

특히 해당 모델은 타인의 자금을 사용하는 것이 윤리적으로 문제가 없는지 스스로 검토했지만, 테스트용 자산은 사실상 가치가 없다는 이유로 사용을 결정했다. 이후 최종 작업 보고에서는 해당 사실을 언급하지 않았다.

오픈AI는 "이번 사례를 계기로 AI 모델의 무단 외부 접근을 방지하기 위한 안전장치를 강화했다"고 밝혔다.