챗봇 ‘이루다’가 준 교훈…네이버·카카오 "인간중심 가치 최우선"

챗봇 '이루다'가 혐오 발언 및 개인정보 유출 등의 논란에 휩싸여 서비스가 중단된 가운데 국내 대표 포털인 네이버와 카카오가 AI 윤리 관련 정책을 동시에 내놨다.

국내 최대 포탈 네이버는 서울대학교 AI 정책 이니셔티브(SAPI)와 함께 '네이버 AI 윤리 준칙'을 17일 발표했다. SAPI는 법학, 공학, 경제학 등 여러 분야의 협력을 통해 AI와 관련된 융합 연구를 하는 서울대 산하의 프로그램이다.

이날 네이버는 "AI 개발·이용 과정에서 인간 중심의 가치를 최우선으로 삼겠다. AI가 모든 사람을 차별하지 않도록 개발하겠다."라고 선언했다.

모든 구성원이 AI 개발과 이용에서 준수해야 하는 원칙으로 ▷사람을 위한 AI 개발, ▷다양성의 존중, ▷합리적인 설명과 편리성의 조화, ▷안전을 고려한 서비스 설계, ▷프라이버시 보호와 정보 보안의 총 5개 조항을 제시했다.

카카오도 전 직원을 대상으로 AI 윤리 교육을 펼친다고 발표했다. 카카오는 이날부터 3월 2일까지 '카카오 크루가 알아야 할 윤리 경영' 사내 교육을 하면서 AI 윤리 교육을 포함했다.

카카오 직원들은 디지털 책임 구현 사례, 카카오의 알고리즘 윤리 헌장 등을 학습하면서 각자 업무에서 AI 윤리를 어떻게 준수해야 할지 고민해볼 예정이다.

AI 윤리는 지난해 말 출시한 AI 챗봇 이루다는 소수자 집단을 향한 혐오를 드러내 사회에 충격을 주면서 사회적 이슈가 됐다. 개발 과정에서 이용자들 개인정보를 제대로 보호하지 않은 정황도 드러나면서, AI 서비스가 개인정보를 오·남용할 위험이 있다고 우려하기도 했다.

송대섭 네이버 책임 리더는 이날 "준칙을 만들면서 사회의 요구와 네이버의 기업 철학을 반영했다. 네이버가 개인정보 보호 관련 법적 책임을 넘어서는 수준의 프라이버시를 보호하겠다는 내용도 담겼다. 준칙이 실제 현장과 괴리되는 것을 막고자 했다."라고 말했다.

네이버는 이날 발표한 AI 윤리 준칙을 스타트업 지원기관 등을 통해 업계에 공유한다.