생성형 AI(인공지능)가 고도화하면서 AI 제작물이 사회적 혼란을 낳자 이를 구분할 '워터마크' 의무화 움직임이 전세계로 퍼지고 있다. 전세계 주요국이 AI 법제화와 함께 워터마크 관련 제도를 준비 중인 가운데 우리 정부도 기업들이 활용할 수 있는 'AI 워터마크 적용 가이드라인' 제작에 나섰다.
19일 업계에 따르면 한국정보통신기술협회(TTA)는 올 연말 발표를 목표로 'AI 워터마크 적용 가이드라인'을 준비 중이다. 해당 가이드라인에는 기업이 활용할 수 있는 다양한 AI 워터마크 기술이 안내된다. 이미지·동영상·텍스트 등 다양한 형태의 AI 제작물을 식별할 수 있는 방법이 고루 담길 예정이다. 아울러 실험적인 연구사례 등 상용화 이전의 기술개발 상황까지 반영된다.
가이드라인은 지난 5월 발표된 '새로운 디지털 질서정립 추진계획'을 위한 밑작업이 될 것으로 보인다. 새로운 디지털 질서정립 추진계획은 과학기술정보통신부 주도로 AI 생성물에 워터마크 표시를 의무화하는 방안을 담았는데 정부는 이를 토대로 법제화를 추진할 계획이다.
워터마크 등 AI 제작물 탐지기술이 아직 완전하지 않지만 정부는 기업들에 선택지를 제시하고 발전방향을 함께 고민해 나가기 위해 가이드라인을 만들고 있다고 밝혔다.
곽준호 TTA AI신뢰성정책팀장은 "AI 워터마크 기술을 기업들이 바로 선택해 쓸 수 있도록 카탈로그 형태의 가이드라인을 준비 중"이라면서 "가이드라인의 명확한 목적이나 내용 등을 계속 손질하고 있다"고 설명했다. 이어 "아직 AI 워터마크 기술이 명확한 가이드라인을 제시할 수준이 아니다. 하지만 다양한 기술에 대한 선택지나 구체적인 설명을 제시하기 시작한다는 점에서 의미가 있다"고 했다.
국회도 AI 법제화를 위해 움직인다. 22대 국회 출범 후 두 달여 만에 AI 기본법 6건이 발의됐다. 이 중 4개 법안에 AI 저작물 표시 의무화에 대한 내용이 담겨있다. 앞으로도 3~4건의 AI 기본법이 추가 발의될 전망이다. AI 기본법은 아니지만 김승수 국민의힘 의원은 AI 제작물에 워터마크 표시를 의무화하는 정보통신망법 개정안을 발의했다.
해외에서도 AI 워터마크 의무화와 관련된 법제화 움직임이 활발하다. 지난해 11월 영국에서 열린 AI 정상회의에 참여한 28개 국가는 AI 부작용을 막기 위해 생성물 표시를 해야 한다는 데 뜻을 모았다. EU(유럽연합)는 지난 3월 세계 최초로 AI법을 공표하고 이달부터 시행 중이다. AI로 만든 영상이나 이미지에는 이를 반드시 표시하도록 의무화했고, 이를 위반 시 전 세계 매출의 최대 7%에 달하는 과징금을 내야 한다.
미국 바이든 행정부는 지난해 10월 '안전하고 신뢰할 수 있는 AI 개발 및 사용에 대한' 행정명령을 발표했는데 여기에는 AI 생성물을 구분할 수 있는 기술을 개발해야 한다는 내용이 담겼다.
