너도나도 푹 빠진 'AI 증명사진'…
주민등록증에도 쓸 수 있나
인공지능(AI)이 만든 사진으로 주민등록증을 만들 수 있을까?
요즘 2030세대 'MZ'에게 인기라는
AI 프로필 서비스가 등장하면서 갑론을박이 벌어지고 있다.
'AI 프로필 서비스'란 자신의 얼굴이 나온 사진 20장을 올리면
얼굴의 특징을 분석해 다양한 콘셉트의 사진 30장을
생성해주는 서비스다.
매일신문 취재진도 지난 3일 직접 이용했다.
가격도 6천600원으로 실제 사진관에 가는 것보다 훨씬 저렴했다.
평소 '인생 사진'을 찍어준다는 사진관에서
프로필 사진을 찍고 싶었지만 번번이 예약에 실패했던 탓에
반가운 마음도 들었다.
AI가 연출한 예능 프로그램
'PD가 사라졌다'
내년 상반기 방송
MBC "올 하반기부터 촬영…기획은 인간 PD들이"
AI(인공지능)가 연출하는 예능 프로그램이
내년 상반기 MBC를 통해 방송된다.
3일 MBC에 따르면 AI PD '엠파고'가 첫 연출하는 과정을 다룬
'PD가 사라졌다'를 올해 하반기부터 촬영한다고 밝혔다.
이를 위해 MBC는 AI PD가 직접 프로그램 참가자
공개모집 안내문을 작성했으며
이달 31일까지 참가자를 모집한다고 설명했다.
AI PD가 캐스팅과 연출, 진행 영상 편집 등을 담당할 예정이며,
인간 PD들이 기획을 맡는다.
5년 뒤,
모든 초중고 'AI 교과서'로 공부
2025년 초3·4학년, 중1, 고1부터 도입…
2028년까지 도덕·예체능 제외 전 과목 확대
2028년부터 모든 초·중·고교에서
국어·영어·수학·사회·과학·역사·정보 등의 과목을
인공지능(AI) 기술을 탑재한 디지털교과서로 배우게 될 전망이다.
학생들은 대시보드를 통해
개인별 학습현황·추천 학습 콘텐츠를 볼 수 있다.
교사 역시 학급별·학생별 학업 참여도, 학업 성취,
학생별 필요한 지원 사항을 전체적으로 파악할 수 있다.
학부모도 대시보드를 통해 자녀의 학업 참여도,
과목별 학업 성취를 확인할 수 있게 된다.
급격히 발전하는 AI 기술,
정말 좋기만 할까?
"챗GPT 등 대규모 언어모델은 양날의 검…
노동강도 줄이거나, 사회 혼란 키우거나"
"챗GPT를 필두로 '대규모 언어 모델'(LLM) 기반 인공지능이
고도화하면서 '지적노동의 대량생산' 시대가 다가왔습니다.
노동 강도를 더욱 덜어줄지, 사회 혼란을 가중할지
조심스레 지켜볼 때입니다."
"구글과 마이크로소프트, 어도비 등이 AI를 도입해
추상적 작업 능률을 높이고 있습니다.
그러나 교황 등 공인이 패딩을 입고 런웨이에 서는 합성사진,
명령만으로 창작하는 일러스트가 잇따라 등장합니다.
AI 창작물이 인간 사회를 더욱 혼란하게 만들 것인지
아직은 알 수 없습니다."
- 김대식 카이스트 전기및전자공학부 교수
"은행, 부모까지 속았다"…
AI로 만든 아바타, 범죄악용 주의보
미국 일간 월스트리트저널(WSJ)의 IT 칼럼니스트 조안나 스턴은
지난 몇개월간 영국 런던의 AI 스타트업 신세시아(Synthesia)의
프로그램을 활용해 '아바타'를 만드는 실험을 했다고 밝혔다.
그는 이렇게 생성된 'AI 아바타'가 나오는 동영상을 보고
"거울로 나 자신을 보는 것 같았다"고 말했다.
매주 스턴과 여러 차례 통화한다는 여동생은
AI로 생성된 목소리가 호흡을 위해 대화 중 멈추지 않는 점을 제외하면
진짜와 매우 흡사하다는 반응을 보였다.
스턴의 아버지는 사회보장번호를 묻는 AI 음성에서
녹음 같은 느낌을 받고 '뭔가 벌어졌다'는 정도만 알아챘을 뿐
스턴 본인의 목소리가 아니라고 눈치채진 못한 것으로 전해졌다.
실제, 일레븐랩스 프로그램으로 생성한 AI 음성을 이용해
미 대형은행의 신용카드 관련 고객 서비스를 이용해 본 결과
개인 목소리를 구분하는 생체인식 시스템을 손쉽게 통과할 수 있었다.
자동응답시스템이 AI 음성을
스턴 본인의 목소리로 인식해 직원에게 연결해줬다는 것이다.
'생사람 잡은 AI'…
안면인식 기술 오류에 누명 쓴 美 남성
조지아주에 사는 랜들 리드(29)는 지난해 11월 애틀랜타에 있는
부모님 집으로 차를 몰고 가던 중 고속도로 한복판에서 경찰에 체포됐다.
경찰은 그가 지난 여름 루이지애나주 뉴올리언스의 한 상점에서
훔친 신용카드로 1만3천 달러(약 1천703만원) 상당의
명품 지갑과 가방을 구입했다는 혐의를 적용했다.
상점 내 CCTV에 찍힌 범인 얼굴을 안면인식 기술로 분석한 결과 페이스북 등
온라인 상 리드의 사진과 CCTV 속 범인 모습이 유사하다는 이유에서였다.
구치소에 갇힌 리드는 이후 변호사를 통해 절도 피해를 봤다는 가게의
CCTV 영상을 직접 확인한 끝에 누명을 벗을 수 있었다.
미국 안면인식 기술 업체 클리어뷰 AI 대표 호안 톤 댓은
얼굴 인식 기술만을 기반으로 사람을 체포해선 안 된다면서
이 기술은 어디까지나 보조적 역할을 하는데 머물러야 한다고 강조했다.
직장인 73.9%, 챗 GPT·구글 바드 등 '생성형 AI' 사용 경험 有
생성형 AI 서비스 대중화에 대해 가장 우려하는 것은?
<직장인 800명 대상 '대한민국 직장인 생성형 AI 이용 현황' 설문조사 >
20.6%
직업 및 일자리 축소에 대한 우려
간단한 업무나 반복적인 작업 등은 생성형 AI 서비스가 손쉽게 처리할 수 있으므로 해당 분야에서 일하는 전문가들의 수요가 줄어들게 된다. 이러한 기술은 기업이나 개인에게도 이용될 수 있기 때문에 소규모 기업이나 저소득 계층의 일자리가 줄어들 수 있고, 그것은 곧 경제적 격차로도 이어진다.
19.1%
개인정보, 영업비밀 노출 위험
생성형 AI 서비스는 대화 기록을 분석하여 학습하고 개인화된 응답을 제공한다. 이러한 과정에서 개인정보가 대화에 포함되거나 사용자의 신원이 파악될 수 있는 상황이 발생할 수 있다. 또한 데이터의 저장 및 보안 관리가 적절히 이루어지지 않을 경우, 불법적인 데이터 액세스나 유출의 위험이 발생할 수 있다.
17.2%
정보의 편향성과 공정성 이슈
생성형 AI 서비스는 수많은 데이터로 학습되는데, 이 데이터는 인간의 행동·언어·문화 등의 특성을 반영한다. 그러나 학습 데이터가 특정 집단이나 관점에 편향되어 있는 경우, 그러한 편향을 학습하고 재현할 수 있다. 이는 인공지능이 편향된 정보를 생성하거나 특정 집단에 대한 편견을 강화할 수 있는 결과를 초래할 수 있다.
챗봇 ‘이루다’가 준 교훈… "인간중심 가치 최우선"
AI 윤리는 2020년 말 출시한 AI 챗봇 '이루다'가 소수자 집단을 향한
혐오를 드러내 사회에 충격을 주면서 사회적 이슈가 됐다.
개발 과정에서 이용자들 개인정보를 제대로 보호하지 않은 정황도 드러나면서,
AI 서비스가 개인정보를 오·남용할 위험이 있다고 우려하기도 했다.
국내 최대 포탈 네이버는 서울대학교 AI 정책 이니셔티브(SAPI)와 함께
'네이버 AI 윤리 준칙'을 발표했다.
SAPI는 법학, 공학, 경제학 등 여러 분야의 협력을 통해
AI와 관련된 융합 연구를 하는 서울대 산하의 프로그램이다.
네이버는 "AI 개발·이용 과정에서 인간 중심의 가치를 최우선으로 삼겠다.
AI가 모든 사람을 차별하지 않도록 개발하겠다."라고 선언했다.
모든 구성원이 AI 개발과 이용에서 준수해야 하는 원칙으로
▷사람을 위한 AI 개발
▷다양성의 존중
▷합리적인 설명과 편리성의 조화
▷안전을 고려한 서비스 설계
▷프라이버시 보호와 정보 보안
총 5개 조항을 제시했다.
카카오 직원들은 디지털 책임 구현 사례, 카카오의 알고리즘 윤리 헌장 등을 학습하면서 각자 업무에서 AI 윤리를 어떻게 준수해야 할지 고민해볼 예정이다.
인간·기계 공존할 수 있을까?
인공지능(AI)은 공정한가
기업의 채용 과정에 AI를 도입한 결과,
기존 남성 중심적 데이터를 학습해 여성에게 부당한 감점을 주었고,
미국 범죄 예상 시스템에서는
백인보다 흑인에게 2배 이상 부정적인 범죄 발생 결과를 예측했다고 한다.
AI가 인간의 차별적인 데이터를 학습해
성차별 및 인종차별적인 결과가 나왔다고 한다.
AI도 살아온 인간을 닮는 것이다. 그럼 AI도 공정하지 못한 것인가.
결국 인간이 쌓아온 수많은 데이터를 통해 학습하는 것이 AI이다.
우리의 살아온 모습이 데이터로 AI에 반영되는 것이다.
AI 판사와 변호사가 공정할 것인가 하는 질문은 우리 스스로에게 던져야 한다.
공정하지 아니하고 차별이 많은 사회에선
이를 학습한 AI도 공정하지 않을 가능성이 매우 높다.
AI의 신속함과 공정함은 우리의 미래 세계를
더 편리하고 안전하게 이끌어 주는 도구이다.
우리의 삶을 변화시킬 것이고, 경제적 번영을 줄 수 있다.
하지만 어떻게 만들고 어떤 모양새로 사용할 것인가 하는 숙제는
결국 인간의 책임이다.
AI는 우리를 꼭 닮은 모습이기에 그러하다.
관련기사 보러가기
사람이 된 AI
그 속을 파헤치다
디자인 - 이정민 디자이너
편집 - 류해미 기자