AI가 잘못된 금융상품을 추천하면 누가 책임질까? [태평양의 미래 금융]

금융위 "AI는 보조 수단...임직원 등 개입"

금융기관·임직원의 책임 부담 가능성 상승

회사마다 개입 정도 등 규정 세워야

한경 로앤비즈의 'Law Street' 칼럼은 기업과 개인에게 실용적인 법률 지식을 제공합니다. 전문 변호사들이 조세, 상속, 노동, 공정거래, M&A, 금융 등 다양한 분야의 법률 이슈를 다루며, 주요 판결 분석도 제공합니다.

과거 인공지능(AI)과 관련한 화두는 "자율주행차가 사고를 낸 경우 그에 대한 책임을 운전자가 져야 하는지, 자율주행차 제조사가 져야 하는지"였다. 이 질문은 자율주행차에 국한된 논란은 아니었다. '자율적인 의사 판단을 하는 기계나 솔루션에 대해서 인간이 책임을 져야 하는지'라는 논의를 함축하고 있었다. 단지 자율주행차가 눈에 띄기 때문에 논란의 중심에 선 것이다.

최근 AI 확산에 따라 유사한 논란이 다시 불거지고 있다. 금융상품을 소비자에게 잘못 추천한 경우, 채용 절차가 불공정하게 이뤄진 경우 등 누가 책임을 져야 하는지에 대한 논의가 확산하고 있다. 이 같은 논의와 관련해 올해 발표된 금융위원회의 "금융 분야 인공지능 가이드라인 개정판"(가이드라인)은 시사점을 주고 있어 이를 주목할 필요가 있다.

금융위 "AI는 보조수단, 사람이 개입해야"

먼저, 금융위원회 가이드라인은 금융기관에 대한 행정적 감독에 관한 사항을 규정하고 있으므로 민사법적인 판단과는 일차적 관련이 없다고 봄이 타당하다. 행정 규제적인 차원에서 그 책임을 생각해 보면 가이드라인의 취지는 다음과 같다고 볼 수 있다.

금융위원회는 가이드라인에서 AI 활용에 관한 7대 원칙 중 하나로 '보조수단성'을 제시했다. 가이드라인은 이에 관해 "금융회사 등은 AI를 업무의 보조수단으로 활용하되, 최종 의사결정과 그에 따른 책임은 임직원이 수행하도록 내부 관리체계를 구축해야 한다"고 명시했다. 특히 고위험 AI의 경우에는 "내부 임직원 등 사람이 AI의 동작에 개입할 수 있는 기준을 확립해 운용하는 것이 필요하다"고 기재돼 있다.

보조수단성은 AI가 산출한 결과물을 하나의 참고자료로 활용하면서도, 그에 대한 사람의 검토와 판단이 업무처리 전 과정에서 지속되도록 하는 취지다. 그리고 해당 원칙에 따르면, AI 이용은 해당 금융기관의 임직원이 수행하는 업무의 보조 목적이 되므로 금융사고가 발생했을 때 금융기관이 일차적인 책임을 지는 방향으로 귀결될 가능성이 있다.

나아가 위 가이드라인은 이에 한발 더 나아가서 업무의 보조수단으로 활용하도록 했으므로, 개발을 주도한 IT 부서보다는 실제로 업무에 활용한 업무부서에 AI 사용에 대한 책임을 부과한 것으로 볼 수 있다.

금융기관·임직원, 책임 떠안을 가능성 증가

다만 금융기관으로서는 억울할 수 있다. AI를 도입하더라도 금융기관이나 임직원이 책임져야 한다면, AI에 대한 사전 테스트 등을 하지 않고 도입해도 되는 것 아니냐는 생각을 할 수도 있다.

그러나 사전테스트 등의 컴플라이언스 노력은 실제 행정책임을 검토할 때 충분히 반영될 수 있다. 이에 따라 AI 서비스를 통해 사고가 발생하지 않도록 하는 사전 조치 및 사후통제는 매우 중요해 보인다.

금융위원회의 가이드라인은 법률에 근거해 제정된 법규가 아니다. 따라서 가이드라인 자체가 민사적인 책임을 판단할 수는 없다고 본다. 행정적 책임과 달리, 금융기관의 AI 활용에 따른 민사상 손해배상책임에 관한 구체적 논의는 아직 충분히 발전하지 못한 상황이다.

AI의 산출물이 잘못돼 고객에게 손해가 발생한 경우, 책임을 누가 부담할지에 대한 판례와 학설은 아직 부족하다. 금융기관인지, 해당 업무를 처리한 임직원인지, 혹은 AI 모델을 제공한 외부 벤더인지 그 책임 소재가 불분명하다.

그러나 AI의 산출물에 대한 최종적인 이용 및 검증의 책임을 임직원에게 부여하는 구조가 개별 금융회사의 내규 등에는 실제로 반영될 것이다. 이에 따라 임직원이 AI의 활용 과정에 실질적으로 관여한 것으로 평가될 가능성이 커진다. 이는 결국 AI 활용 중 사고가 발생했을 때, 금융기관과 그 임직원이 민사상 손해배상책임을 부담할 가능성을 높이는 방향으로 작용할 수 있다.

개입 정도 등 원칙 세워야 책임 문제 해결

금융서비스는 사람들에게 직접적으로 영향을 미치는 정도가 높다. 따라서 가이드라인의 보조수단성 원칙은 현재 AI의 확산 정도 및 수준 등을 고려하면 필요한 원칙으로 보인다. 한편, 보조수단성의 원칙을 다른 분야에도 도입할 수 있을지 생각해 보면 다소 회의적이다.

금융위원회가 천명한 보조수단성은 AI 이용에 대한 책임이라는 관점에서 한번은 음미해 볼 수 있을 것으로 생각된다. 인간의 개입 정도에 따라 해당 회사 또는 임직원의 책임은 달라질 것이므로, 그에 대한 각 회사의 원칙을 세우고 이를 관철할 수 있는 컴플라이언스 체계를 구축해 둘 필요가 있다. 이는 AI 이용에 따른 책임 문제를 보다 간명하게 해결하는 수단이 될 전망이다.

<한경 Law&Biz 필진> 윤주호 법무법인 태평양 변호사