"실명 위기? 이거면 해결, 제 의사 경력 걸게요" 믿었는데…'AI'였다

부제 : [2025 u클린] 5-① 가짜 AI 의사 만든 허위·과대광고 잇따라

"제 경력 걸고 실명 위기여도 이거 한 알이면 싹 해결됩니다."

유튜브의 한 광고다. 의사를 연상케 하는 흰 가운과 마스크를 착용한 남성이 라디오 부스처럼 생긴 장소에서 진중한 얼굴로 이같이 말한다. 그는 중장년층에게서 흔히 나타나는 '비문증'을 설명하더니 "실제로 A제품을 환자들에게 많이 추천한다"고 강조한다. 또다른 광고영상은 사회자와 전문가가 자연스레 질의응답을 주고받으며 A제품을 추천한다.

얼핏 보면 안과 전문의가 건강정보 프로그램에 출연한 영상을 '쇼츠'(짧은 동영상)로 재편집한 것같지만 사실은 AI로 만든 가짜영상이다. 애초 내걸 만한 경력도, 제품을 추천할 환자도 없는 가상의사다. 생성형 AI(인공지능)로 진짜 같은 가짜영상을 만드는 게 손쉬워지면서 이처럼 소비자를 현혹하는 식품·의약품 광고가 유튜브상에서 난립한다.

B제품 광고에서도 가상의사가 "제가 환자 수백 명에게 추천했는데 다 좋아졌다"고 자신한다. 아예 병원 처치실을 배경으로 수술복을 입은 AI의사도 등장한다. 이를 본 60대 여성 권모씨는 "전문가가 효능을 보장하니 믿고 구매하려고 했다"며 "AI로 만든 가짜의사일 줄 상상도 못했다. 앞으로 어떤 영상을 믿고 봐야 하냐"고 토로했다.

AI 광고의 꼼수…의사는 제품 광고 못한다, AI가상의사는?이들 광고가 사실과 다르거나 지나치게 부풀린 허위·과대광고라는 점에서 우려는 더 커진다. A제품은 전문의약품인 것처럼 소개됐지만 실제로는 과채 가공식품이다. B제품은 "핵심성분이 일반적인 수준을 넘어 빠른 효과를 유도한다"고 했으나 식품의약품안전처의 허가를 받은 의약외품은 성분의 종류·규격·함량을 표준화한 '의약품 표준 제조기준'을 따라야 한다. 무엇보다 비슷한 제품의 주성분 함량이 똑같다.

이같은 AI광고는 규제 사각지대를 노렸다. 식품표시광고법 시행령에 따르면 의사, 한의사 등 의료인은 제품의 기능성을 보증하거나 제품을 추천·사용한다는 광고를 할 수 없다. 그러나 이처럼 AI로 가상의사를 만든 경우엔 관련규정이 없다. 식약처 관계자는 "AI로 만든 가상의사가 진짜의사는 아닌 만큼 해당 규정이 적용될지 검토가 필요하다"고 말했다.

'AI 생성영상'을 표기하면 소비자들의 오인을 줄일 수 있지만 이런 의무를 담은 AI기본법은 내년 1월에나 시행된다. 다만 IT(정보기술)업계가 서비스 품질저하 등을 이유로 AI 생성물 표기 의무화를 반대하고 있어 어느 정도 수준에서 시행될지 미정이다. 당초 과학기술정보통신부는 올 상반기까지 AI기본법 하위법령을 마련키로 했으나 새 정부 출범 등으로 초안공개가 미뤄진 상태다.

다행히 허위·과대광고는 식품표시광고법 규제를 받는다. 식약처는 불법 허위·과대광고 적발시 방송통신심의위원회의 접속차단 및 관할기관의 행정처분을 요청한다. 최대 10년 이하 징역 또는 1억원 이하 벌금에 처할 수 있다.
찐경험 궁금한데, 블로그엔 온통 AI 찌꺼기뿐 생성형 AI가 대중화되며 AI로 찍어낸 저품질 양산형 콘텐츠, 이른바 'AI 찌꺼기'도 느는 추세다.

사람들이 주목할 이슈라면 AI로 무분별하게 글을 찍어내는 블로거들이 대표적이다. 이 중엔 거짓내용을 사실처럼 쓴 할루시네이션(환각)도 포함돼 있다.

이를테면 애플페이가 화제가 되자 'C카드가 애플페이 서비스를 시작했다'는 거짓 글을 올려 낚시성 광고페이지 클릭을 유도한다. '민생지원금 신청방법'이라며 어디서 본 듯한 내용을 짜깁기해놓고는 정작 신청방법은 설명하지 않는 부실글도 있다.

30대 직장인 이모씨는 "생성형 AI에 검색하지 않고 굳이 블로그·카페글을 찾는 이유는 사람들의 경험과 노하우가 담긴 진짜 후기를 보고 싶어서인데 최근엔 생성형 AI를 '복붙'(복사해 붙임)한 글이 많아져 블로그도 찾지 않게 됐다"고 말했다.

이에 국내외 포털들은 이를 제한하는 다양한 노력을 하고 있다. 네이버(NAVER)는 생성형 AI로 만든 저품질 콘텐츠를 별도 제재하는 규정은 없지만 자체 모니터링을 통해 기계적으로 대량생산한 글의 검색노출을 제한한다. 구글은 지난달부터 AI로 대량생산한 저품질 콘텐츠의 광고수익을 제한한다.

AI 생성물을 쉽게 인지할 수 있는 별도 아이콘도 만들었다. 네이버는 "AI를 활용한 콘텐츠를 식별하는게 기술적으로 어려운 만큼 작성자가 자발적으로 'AI 활용' 여부를 표시해 다른 이용자가 혼동하는 걸 방지할 수 있게 했다"고 설명했다.

구글도 생성형 AI로 만든 콘텐츠를 구분하기 위해 '변형되거나 합성된 콘텐츠'(Altered or syntheic content) 라벨을 추가할 수 있게 했다. 메타와 틱톡 역시 AI 라벨정책을 도입했다. 다만 대부분 이용자가 자발적으로 적용해야 하는 부분이어서 실효성이 적다는 평가다.



"AI가 만든 가짜" 표기해야…투명·무음 워터마크도 도입

부제 : [2025 u클린] 5-② 한국·유럽·중국, AI 생성물 표기 의무화


한국뿐 아니라 미국, 유럽연합(EU), 중국 등 주요국에서도 생성형 AI(인공지능)의 워터마크 의무화 논의가 뜨겁다. 방송통신위원회는 올 초 생성형 AI 확산으로 인한 사회적 문제를 줄이기 위해 '생성형 AI 서비스 이용자 보호 가이드라인'을 발표했다. 생성형 AI 개발사 및 서비스업체가 추구해야 할 4가지 기본원칙과 6가지 실행방식을 담았다. 이 중 생성형 AI 결정과정을 알리는 일환으로 워터마크를 권장했다. 생성형 AI가 만든 이미지·메시지에 AI 로고를 넣어 이용자가 쉽게 인지할 수 있도록 해야 한다는 것이다.

내년 1월 시행될 예정인 AI기본법 제31조도 AI 생성표시 의무를 뒀다. 특히 제31조 제3항은 실제와 구분하기 어려운 가상의 음향·사진·영상 등 결과물을 제공할 경우 AI로 생성됐다는 사실을 이용자가 명확히 인식할 수 있도록 고지·표시해야 한다. 다만 눈에 띄게 AI 표기를 할 경우 콘텐츠 품질과 시청각 경험이 저해되는 예술작품 등은 예외를 둘 전망이다.

최근엔 눈으로 볼 수 없는 비가시적 워터마크를 넣는 연구도 활발하다. 작성자·생성일 등 메타데이터를 암호화해 콘텐츠 내부에 삽입하는 C2PA 기술이 대표적이다. C2PA란 2021년 설립된 글로벌 연합체로 콘텐츠 출처기술 표준을 개발한다. 이같은 비가시적 워터마크는 별도 식별도구가 있다. C2PA 기술이 적용된 이미지는 '콘텐트 크리덴셜스'(content credentials) 등 홈페이지에서 AI 사용여부를 확인할 수 있다.

AI 작곡이 대중화된 가운데 음향에 워터마크를 넣는 기술도 등장했다. 인간의 청각으로 감지할 수 없는 주파수나 음향 특성을 이용해 워터마크를 삽입, AI 생성물임을 표시하는 동시에 무단복제도 막는다.

EU는 내년 8월에 시행하는 AI법에서 AI로 생성한 콘텐츠를 명시하는 투명성 의무를 규정했다. 위반시 매출액의 1~7% 또는 750만~3500만유로의 과징금을 부과할 수 있다. 디지털서비스법(DSA)에서도 AI 생성물을 소비자가 알 수 있도록 표시규정을 마련했다. 중국도 2023년 제정한 '생성형 AI 서비스 관리법'에서 AI 생성물 표시를 의무화했다.

미국은 2023년 조 바이든 행정부 시절 AI 생성물에 라벨을 붙이는 등 AI 안전조치를 담은 행정명령을 발표했으나 올 초 도널드 트럼프 행정부가 이를 폐기했다. AI가 국가 전략자산으로 떠오른 만큼 규제보단 진흥 위주 정책을 펴겠다는 취지에서다. 그러나 최근 미 행정부가 발표한 'AI 액션플랜'도 "가짜 증거로 사법체계를 흔들 수 있다"며 국립표준기술연구소(NIST)를 주축으로 딥페이크(이미지·음성합성기술) 평가프로그램을 개발하도록 했다. AI 서비스를 장려하면서도 AI 생성물에 대한 법적 책임과 검증을 강화하려는 것으로 풀이된다.

다만 워터마크만으론 충분하지 않다는 지적이다. 온라인상에서 워터마크를 쉽게 없애는 등 삭제·위조기술도 발전하고 있어서다. 과학기술정보통신부가 발표한 'AI 워터마크 기술동향보고서'는 "워터마크로 AI가 만든 가짜 생성물에 속아 발생하는 피해를 예방할 순 있지만 불법 AI 생성물은 대부분 법으로 규율하기 어려운 곳에서 만들어져 단속이 사실상 불가하다"며 "워터마크가 적용되지 않은 AI 생성물을 탐지하는 기술개발이 필요하다"고 지적했다.