뉴섬 캘리포니아 주지사, AI 안전 규제 강화 검토 지시

개빈 뉴섬 미국 캘리포니아 주지사가 첨단 인공지능(AI) 시스템의 비상 종료 장치 도입을 포함한 안전 규제 강화 방안을 검토하도록 지시했다.

18일(현지시간) 가상자산(암호화폐) 전문 미디어 코인텔레그래프에 따르면 뉴섬 주지사는 행정명령을 통해 전문가 그룹을 구성하고 60일 이내에 AI 안전·보안 관련 제도 강화 방안을 마련하도록 했다.

검토 대상에는 첨단 AI 모델에 비상 종료 장치를 마련하는 방안과 독립 기관의 정기적인 안전성 검증, AI 기업의 안전 체계와 위험 평가에 대한 외부 검증 등이 포함됐다.

이번 행정명령은 관련 규제를 즉시 시행하는 것이 아니라 구체적인 제도 개선안을 검토하기 위한 절차다. 캘리포니아주는 전문가 권고를 토대로 추가적인 AI 안전 규제 도입 여부를 검토할 예정이다.