[2025 u클린] 5-① 가짜 AI 의사 만든 허위·과대광고 잇따라
"제 경력 걸고, 실명 위기여도 이거 한 알이면 싹 해결됩니다."

유튜브의 한 광고다. 의사를 연상하는 흰 가운과 마스크를 착용한 남성이 라디오 부스처럼 생긴 장소에서 진중한 얼굴로 이같이 말한다. 그는 중장년층에 흔히 나타나는 '비문증'을 설명하더니 "실제로 A제품을 환자들에게 많이 추천한다"고 강조한다. 또다른 광고영상은 사회자와 전문가가 자연스레 질의응답을 주고받으며 A제품을 추천한다.

얼핏 보면 안과 전문의가 건강정보 프로그램에 출연한 영상을 '숏츠'(짧은 동영상)로 재편집한 것 같지만, 사실은 AI로 만든 가짜 영상이다. 애초 내걸만한 경력도, 제품을 추천할 환자도 없는 가상 의사다. 생성형 AI로 진짜 같은 가짜 영상을 만드는 게 손쉬워지면서 이처럼 소비자를 현혹하는 식품·의약품 광고가 유튜브상에서 난립한다.

B제품 광고에서도 가상 의사가 "제가 환자 수백명에 추천했는데 다 좋아졌다"고 자신한다. 아예 병원 처치실을 배경으로 수술복을 입은 AI 의사도 등장한다. 이를 본 60대 여성 권모씨는 "전문가가 효능을 보장하니 믿고 구매하려고 했다"며 "AI로 만든 가짜 의사일 줄 상상도 못했다. 앞으로 어떤 영상을 믿고 봐야 하냐"고 토로했다.

AI 광고의 꼼수…의사는 제품 광고 못한다, AI가상의사는?이들 광고가 사실과 다르거나 지나치게 부풀린 허위·과대광고라는 점에서 우려는 더 커진다. A제품은 전문의약품인 것처럼 소개됐지만 실제로는 과채 가공식품이다. B제품은 "핵심 성분이 일반적인 수준을 넘어 빠른 효과를 유도한다"고 했으나 식품의약품안전처의 허가를 받은 의약외품은 성분의 종류·규격·함량을 표준화한 '의약품 표준 제조기준'을 따라야 한다. 무엇보다 비슷한 제품의 주성분 함량이 똑같다.

이같은 AI 광고는 규제 사각지대를 노렸다. 식품표시광고법 시행령에 따르면 의사, 한의사 등 의료인은 제품의 기능성을 보증하거나 제품을 추천·사용한다는 광고를 할 수 없다. 그러나 이처럼 AI로 가상 의사를 만든 경우엔 관련 규정이 없다. 식약처 관계자는 "AI로 만든 가상 의사가 진짜 의사는 아닌 만큼 해당 규정이 적용될지 검토가 필요하다"고 말했다.

'AI 생성 영상'을 표기하면 소비자들의 오인을 줄일 수 있지만, 이런 의무를 담은 AI 기본법은 내년 1월에나 시행된다. 다만 IT업계가 서비스 품질 저하 등을 이유로 AI 생성물 표기 의무화를 반대하고 있어 어느 정도 수준에서 시행될지 미정이다. 당초 과학기술정보통신부는 올 상반기까지 AI 기본법 하위법령을 마련키로 했으나, 새 정부 출범 등으로 초안 공개가 미뤄진 상태다.

다행히 허위·과대광고는 식품표시광고법 규제를 받는다. 식약처는 불법 허위·과대광고 적발 시 방송통신심의위원회의 접속 차단 및 관할 기관의 행정 처분을 요청한다. 최대 10년 이하의 징역 또는 1억원 이하의 벌금에 처할 수 있다.
찐경험 궁금한데, 블로그엔 온통 AI 찌꺼기뿐 생성형 AI가 대중화되며 AI로 찍어낸 저품질 양산형 콘텐츠, 이른바 'AI 찌꺼기'도 느는 추세다.

사람들이 주목할 이슈라면 AI로 무분별하게 글을 찍어내는 블로거들이 대표적이다. 이 중엔 거짓 내용을 사실처럼 쓴 할루시네이션(환각)도 포함돼 있다. 이를테면 애플페이가 화제가 되자 'C카드가 애플페이 서비스를 시작했다'는 거짓 글을 올려 낚시성 광고 페이지 클릭을 유도한다. '민생지원금 신청방법'이라며 어디서 본 듯한 내용을 짜깁기해놓고는 정작 신청 방법은 설명하지 않는 부실 글도 있다.

30대 직장인 이모씨는 "생성형 AI에 검색하지 않고 굳이 블로그·카페 글을 찾는 이유는 사람들의 경험과 노하우가 담긴 진짜 후기를 보고 싶어서인데, 최근엔 생성형 AI를 '복붙'한 글들이 많아져 블로그도 찾지 않게 됐다"고 말했다.

이에 국내외 포털들은 이를 제한하는 다양한 노력을 하고 있다. 네이버(NAVER (227,000원 6000 2.71%))는 생성형 AI로 만든 저품질 콘텐츠를 별도 제재하는 규정은 없지만, 자체 모니터링을 통해 기계적으로 대량 생산한 글의 검색 노출을 제한한다. 구글은 지난달부터 AI로 대량 생산한 저품질 콘텐츠의 광고 수익을 제한한다.

AI 생성물을 쉽게 인지할 수 있는 별도의 아이콘도 만들었다. 네이버는 "AI를 활용한 콘텐츠를 식별하는게 기술적으로 어려운 만큼, 작성자가 자발적으로 'AI 활용' 여부를 표시해 다른 이용자가 혼동하는 걸 방지할 수 있게 했다"고 설명했다. 구글도 생성형 AI로 만든 콘텐츠를 구분하기 위해 '변형되거나 합성된 콘텐츠'(Altered or syntheic content) 라벨을 추가할 수 있게 했다. 메타와 틱톡 역시 AI 라벨 정책을 도입했다. 다만, 대부분 이용자가 자발적으로 적용해야 하는 부분이어서 실효성이 적다는 평가다.