오픈AI 수석과학자 "AI 발전에 극도의 주의 필요…자율 개선 가능성"

김정호 기자

간단 요약

야쿠브 파초키 오픈AI 수석과학자가 AI 기술의 빠른 발전에 "극도의 주의"가 필요하다고 경고했다고 밝혔다.
파초키는 AI 모델이 인간 개입 없이 스스로 성능을 개선할 가능성이 있어 이해와 통제가 어려워질 수 있다고 전했다.
그는 AI 자기 개선 기술 투자, 주요 AI 기업의 개발 속도 조절, 공통 안전 기준 마련이 중요하다고 강조했다고 밝혔다.

기간별 예측 흐름 리포트

야쿠브 파초키(Jakub Pachocki) 오픈AI(OpenAI) 수석과학자가 인공지능(AI) 기술이 빠르게 발전하는 상황에서 "극도의 주의"가 필요하다고 경고했다.

7일(현지시간) 월터 블룸버그에 따르면 파초키 수석과학자는 AI 모델이 조만간 인간의 개입 없이 스스로 성능을 개선할 가능성이 있으며, 이 경우 AI의 작동 방식을 이해하고 통제하기가 더욱 어려워질 수 있다고 밝혔다.

그는 AI의 자기 개선 기술에 대한 투자가 확대되는 가운데 공통된 안전 기준이 마련될 때까지 주요 AI 기업들이 자발적으로 개발 속도를 늦출 것으로 예상했다.

파초키 수석과학자는 AI 역량이 빠르게 고도화되는 만큼 기술 개발과 함께 안전 기준을 마련하는 작업이 중요하다고 강조했다.

김정호 기자

PiCK 뉴스