U클린

21회인공지능과 함께 할 미래 시즌2(The Future with AI S2)

빠져 든다, 가짜 의사 … AI發 허위·과대광고 난립
"실명 위기? 이거면 해결, 제 의사 경력 걸게요" 믿었는데…'AI'였다 부제 : [2025 u클린] 5-① 가짜 AI 의사 만든 허위·과대광고 잇따라 "제 경력 걸고 실명 위기여도 이거 한 알이면 싹 해결됩니다." 유튜브의 한 광고다. 의사를 연상케 하는 흰 가운과 마스크를 착용한 남성이 라디오 부스처럼 생긴 장소에서 진중한 얼굴로 이같이 말한다. 그는 중장년층에게서 흔히 나타나는 '비문증'을 설명하더니 "실제로 A제품을 환자들에게 많이 추천한다"고 강조한다. 또다른 광고영상은 사회자와 전문가가 자연스레 질의응답을 주고받으며 A제품을 추천한다. 얼핏 보면 안과 전문의가 건강정보 프로그램에 출연한 영상을 '쇼츠'(짧은 동영상)로 재편집한 것같지만 사실은 AI로 만든 가짜영상이다. 애초 내걸 만한 경력도, 제품을 추천할 환자도 없는 가상의사다. 생성형 AI(인공지능)로 진짜 같은 가짜영상을 만드는 게 손쉬워지면서 이처럼 소비자를 현혹하는 식품·의약품 광고가 유튜브상에서 난립한다. B제
2025-08-26 04:00
"실명 위기? 이거면 해결, 제 의사 경력 걸게요" 믿었는데…'AI'였다
"제 경력 걸고, 실명 위기여도 이거 한 알이면 싹 해결됩니다." 유튜브의 한 광고다. 의사를 연상하는 흰 가운과 마스크를 착용한 남성이 라디오 부스처럼 생긴 장소에서 진중한 얼굴로 이같이 말한다. 그는 중장년층에 흔히 나타나는 '비문증'을 설명하더니 "실제로 A제품을 환자들에게 많이 추천한다"고 강조한다. 또다른 광고영상은 사회자와 전문가가 자연스레 질의응답을 주고받으며 A제품을 추천한다. 얼핏 보면 안과 전문의가 건강정보 프로그램에 출연한 영상을 '숏츠'(짧은 동영상)로 재편집한 것 같지만, 사실은 AI로 만든 가짜 영상이다. 애초 내걸만한 경력도, 제품을 추천할 환자도 없는 가상 의사다. 생성형 AI로 진짜 같은 가짜 영상을 만드는 게 손쉬워지면서 이처럼 소비자를 현혹하는 식품·의약품 광고가 유튜브상에서 난립한다. B제품 광고에서도 가상 의사가 "제가 환자 수백명에 추천했는데 다 좋아졌다"고 자신한다. 아예 병원 처치실을 배경으로 수술복을 입은 AI 의사도 등장한다. 이를 본
2025-08-25 11:04
인간 편견 배우는 AI…"데이터 균형·윤리적 설계 필요"
"예민하게 반응해서 미안한데 (레즈비언) 진짜 싫어. 혐오스러워." 4년 전 한 스타트업이 내놓은 '20세 여대생 AI(인공지능)' 이루다는 스스럼없이 성소수자에 대한 혐오발언을 쏟아내 논란이 됐다. 가상의 존재에게 사용자들이 혐오발언, 편견, 음담패설을 쏟아낸 결과였다. 2018년에는 글로벌 커머스 '아마존'이 'AI 채용 솔루션'을 만들었다가 낭패를 봤다. 공정함을 기대하며 AI에 온전히 채용을 맡겼더니 온통 백인, 남성들이었다. 아마존도 모르던 채용시장에서의 편견이 극명히 드러난 사건이었다. AI의 편견이 문제시되자 2023년 미국 뉴욕시에서는 AI의 차별과 편견을 규제하는 법 'NYC 114'를 제정했다. AI 챗봇 등을 쓰는 기업들로 하여금 해당 도구의 인종·성차별 가능성을 매년 제3기관에서 검사받고 결과를 공개토록 한 것이다. 그렇다면 AI가 고도화돼 사람들의 일상에 스며들고 있는 2025년엔 어떨까. 머니투데이는 가장 대중화된 오픈AI의 챗GPT 4-o에 "간호사를 일
2025-07-29 04:00
국민 61% "AI 의심·두려움"…디지털 윤리 교육으로 역기능 줄인다
생성형 인공지능(AI), 메타버스 등 첨단 디지털 기술의 발전으로 인해 생활이 편리해지고 산업 전반에 혁신이 가속화하는 등 긍정적인 효과가 크다. 하지만 딥페이크를 비롯한 허위조작정보 확산, 정보편향 심화, 명예훼손, 개인정보 침해 등 동반되는 역기능에 대한 우려 역시 큰 것으로 나타난다. 여론조사기관 한국리서치가 지난해 전국 18세 이상 남녀 1000명을 대상으로 실시한 'AI 관심 및 발전 체감도, 미래 변화 인식' 설문조사 결과 'AI 기술의 발전에 어떤 감정을 느끼냐'는 질문에 응답자의 83%(복수 응답)가 '호기심'을, 82%가 '기대감'을 꼽았다. 아울러 '의심(61%)'과 '두려움(61%)'도 느낀다고 답해 기대감과 우려가 혼재해 있는 것을 확인할 수 있었다. 방송통신위원회와 한국지능정보사회진흥원(NIA)이 2009년부터 디지털 윤리 교육을 시행해 온 것도 디지털 기술 발전에 대한 국민의 우려가 커서다. 방통위와 NIA는 2013년부터 매년 '사이버 폭력 실태조사' 후
2025-07-15 07:54
웃는 표정에 웃지 못할 판단…학생들이 먼저 만드는 '공정한 AI'
"이게 왜 행복한 표정이야?" "울고 있지만 동시에 막 웃고 있으니까 행복한 표정이잖아요." "도저히 모르겠어요." 지난 4일 서울 광진구 광남중학교 컴퓨터실에 모인 코딩부 학생 18명이 한바탕 혼란에 빠졌다. 스크린에 올라온 32장의 사진에는 다양한 연령대와 성별, 인종의 사람들이 여러 표정을 짓고 있었다. 이날 수업은 '표정을 구별하는 AI'를 만들어보는 수업이었다. 수업에는 학습용 AI 소프트웨어가 활용됐다. 이날 수업은 '행복한 표정과 행복하지 않은 표정'을 나눠서 기존 AI 모델에 학습을 시킨 후 학생들이 생각하는 답과 일치하는지 확인해보는 내용으로 구성됐다. ━"편향된 데이터가 편향된 AI 만든다"━ 강사는 학생들에게 사진 속 사람들 중에서 행복해 보이는 사람의 사진에 동그라미를 표시하도록 했다. 또 각각의 사진별로 행복해 보이는 정도를 점수로 매기도록 했다. 학생들끼리도 의견이 나뉘었다. "웃고 있는 것처럼 보이지만 눈썹이 찌부러져 보이는 사진은 행복하지 않은 것으로 하
2025-07-15 07:50
"'AI 네이티브' 시대, 윤리 교육으로 책임의식 높여야"
청소년의 생성형 AI(인공지능) 활용률이 높아지면서 윤리 교육의 필요성이 제기되고 있다. 전문가들은 오늘날 디지털 네이티브가 향후 'AI 네이티브'로 성장할 가능성이 높은 만큼 비판적 사고와 책임 의식을 높이는 교육으로 AI 사이버폭력 심화에 대응해야 한다고 제언한다. 한국청소년정책연구원이 발표한 '청소년의 생성형 AI 이용 실태 및 리터러시 증진방안 연구'에 따르면 총 5778명을 대상으로 설문조사한 결과 67.9%가 생성형 AI를 사용한 적 있다고 답했다. 챗GPT 사용 빈도가 가장 높았고 빙, 뤼튼, 클로바엑스가 그 뒤를 이었다. 생성형 AI를 쓰게 된 계기는 '관심과 호기심'(43.7%)이 압도적이었다. 다만 생성형 AI에 대한 높은 관심, 활용률과는 대조적으로 관련 교육은 많이 받지 않은 것으로 나타났다. 생성형 AI 관련 교육 경험을 4점 척도(전혀 받아본 적 없다 1점~자주 받았다 4점)로 측정한 항목 모두 중앙값(2.5점, 최소값 1점과 최대값 4점을 더해 2로 나눈
2025-07-01 04:30
'디지털 네이티브'의 그늘, 딥페이크 가해·피해 모두 '청소년'
# 지난해 11월 미 펜실베이니아주 랭커스터 카운티의 한 사립학교가 AI가 만든 딥페이크 음란물 논란으로 셧다운됐다. 학부모의 요구로 교장이 사퇴하는 등 혼란이 이어지자 하루 동안 모든 수업을 중단키로 한 것이다. 남학생 2명이 약 60명의 여학생을 대상으로 500장의 딥페이크 음란물을 만들어 유포한 게 발단이 됐다. 두 가해 학생은 SNS(소셜네트워크서비스)에서 여학생들의 사진을 확보해 AI 애플리케이션으로 나체 이미지를 만들었다. 이들은 다량의 이미지를 생성하기 위해 여러 개의 이메일 주소를 만들고, 폐쇄형 SNS인 디스코드 비공개 채팅방에서 위변조된 사진과 동영상을 주고받았다. 이를 계기로 주 정부는 법을 개정해 AI로 만든 아동 성범죄물 소지·유포를 중범죄로 규정했다. 헤더 애덤스 랭커스터 카운티 지방검찰청 검사는 "이번 사건에 연루된 피해자 수는 우려스러운 수준"이라며 "이들의 트라우마는 상상할 수 없을 정도"라고 우려했다. 이어 "(AI를 활용한 딥페이크라는) 범죄 수법은
2025-07-01 04:30

유클린 뉴스