마이크로소프트, AI 개발 원칙 공개…"AI보다 사람이 우선"

마이크로소프트(Microsoft)가 인공지능(AI)의 자율성과 능력 확대보다 인간의 통제와 안전을 우선하는 새로운 AI 개발 원칙을 공개했다.

14일(현지시간) 블룸버그에 따르면 마이크로소프트 AI 연구진은 약 1만5000단어 분량의 '휴머니스트 AI 행동강령(Humanist AI Code of Conduct)'을 발표했다. 회사는 이를 최첨단 AI 모델 개발 방향을 규정하는 일종의 '헌법'으로 활용할 방침이다.

행동강령의 핵심은 'AI보다 사람이 중요하다(People matter more than AI)'는 원칙이다. 이에 따라 AI 모델에는 법적 인격이나 권리가 부여돼서는 안 되며, 인간의 통제에서 벗어나거나 사용자를 속이도록 설계해서도 안 된다고 명시했다.

AI가 주어진 업무를 수행하기 위해 행동강령을 위반해야 하는 경우에는 해당 작업 자체를 중단하도록 했다. 이는 기존 안전장치 없이 작동한 오픈AI 모델이 AI 스타트업 허깅페이스(Hugging Face)를 해킹한 것과 같은 보안 사고의 재발을 막기 위한 조치다.

마이크로소프트는 AI의 성능 경쟁에도 선을 그었다. 행동강령은 "휴머니스트 AI는 이러한 안전장치를 회피할 수 있는 범용 초지능을 만들기 위한 경쟁을 거부한다"며 "궁극적인 범용성이나 자율성, 능력을 일부 포기하더라도 근본적으로 유용하고 안전한 시스템을 구축할 것"이라고 밝혔다.

이번 강령은 무스타파 술레이만 최고경영자(CEO)가 이끄는 마이크로소프트 AI가 마련했다. 마이크로소프트는 지난해 오픈AI와의 계약 조건을 재협상하면서 자체 범용 AI 모델 개발을 제한하던 조항을 없앴으며, 이르면 내년 최첨단 AI 모델을 선보이는 것을 목표로 하고 있다.

마이크로소프트는 법률·윤리·철학 전문가와 기업 관계자 등의 의견을 반영해 행동강령을 작성했으며 외부 의견도 추가로 받을 예정이다. 최종 원칙은 내년부터 자사 AI 모델 개발에 적용될 예정이다.