[u클린 2021] ⑥ - 1 'AI의 시대' 윤리와 검증의 필요성도↑
AI(인공지능)는 인간의 따뜻한 친구가 될 수 있을까. 인류의 삶을 풍족하게 만들기 위해 고안된 AI는 그러나 최근 알고리즘의 편향성과 부작용 등 각종 논란에 휩싸여있다. AI 뿐 아니다. 빅데이터와 사물인터넷, 로봇, 생명과학 등 4차산업혁명 기술은 앞으로 어떻게 활용되느냐에 따라 양날의 칼이 될 수 있다. 올해 U클린 캠페인은 '사람 중심의 지능정보기술'(Tech For People)을 주제로 새로운 기술이 필연적으로 수반하는 윤리적 문제와 해법을 제시한다.
#음식을 배달하는 라이더(배달원) A씨(34)는 최근 콜(호출)이 급감하는 경험을 했다. 몇 년째 자동차로 음식을 배달했지만 이런 경험은 처음이었다. 평소에도 배달비가 높은 곳 대신 거리만 먼 곳에서만 콜이 들어온다고 생각하던 그였다. 배달앱이 알고리즘을 이용해 라이더들을 착취한다는 기분이 들었다.

일상에 AI(인공지능)가 스며들었다. 동시에 갈등의 그늘도 넓어졌다. 알고리즘을 활용하는 다양한 분야에서 AI를 '믿을 수 없다'는 불신의 목소리가 커졌다. 미래 먹거리인 AI를 어떻게 공정하게 설계하고 활용할 것인지가 사회적 과제로 떠올랐다.

배달부터 택시까지 '배차 알고리즘'에 물음표…노동의 '종속' 우려27일 관련 업계에 따르면 공정거래위원회는 최근 '콜 몰아주기' 의혹을 받는 카카오모빌리티를 찾아 현장 조사를 벌였다. 이날 공정위 조사관들은 카카오모빌리티 판교 사무실에서 택시 호출 시스템의 알고리즘을 확보한 것으로 알려졌다.

'플랫폼 갈등'의 도화선이 된 택시업계는 줄곧 카카오 측의 부정 배차 의혹을 제기해왔다. 카카오가 자사 가맹택시에 콜을 몰아주는 불공정 행위를 하고 있다는 지적이다. 일반택시 바로 앞에서 택시를 잡아도 멀리 있는 가맹에 우선 콜이 간다는 것이다.

이에대해 카카오는 배차 조작은 사실무근으로 근거가 없다며 의혹을 부인하고 있다. IT업계에서는 택시업계가 눈엣가시인 카카오를 공격하기위한 의도가 담겨있다는 시각이다. 반면 택시업계에서는 카카오가 심판과 선수로 동시에 경기를 뛰는데 이과정에서 AI 알고리즘을 편파적으로 설계해 활용한다고 의심한다. 카카오 가맹택시와 비가맹택시 월평균 수입은 각각 812만원, 554만원이고, 영업 건수도 766건, 579건의 차이를 보인다는 것이다. 이처럼 AI 알고리즘을 불신해 서비스업체와 기존 업계가 마찰을 빚는 사례는 사회 곳곳에서 발생하고 있다.
지난 6월 배달기사노동조합 라이더유니온은 배달앱의 AI 알고리즘이 비효율·불공정을 초래한다며 직접 검증에 나서기도 했다. 조합에 따르면 AI 알고리즘 배차를 100% 수락하는 경우에는 선택 수락 시보다 주행거리는 증가하면서도 시간당 배달건수와 수익은 감소했다.

택시기사와 라이더가 공통적으로 문제 삼는 것은 AI 알고리즘으로 인한 종속이다. 자신들의 의지에 따라 일 하기 보다는, 플랫폼의 명령에 따라서만 수입과 노동 강도가 결정된다는 것이다.

공정위, 검색 알고리즘 '송곳 검증'에…AI 면접은 새로운 우려로앞서 공정위는 지난해 네이버가 자사 제휴 상품 등을 최상단에 노출하고 경쟁사의 검색 결과를 하단으로 내린 혐의로 과징금 267억원을 부과했다. 네이버 측은 검색 알고리즘 조작은 없었으며 공정위가 과도한 잣대를 들이댓다는 입장이다.

쿠팡 역시 유사한 혐의로 공정위의 조사를 받고 있다. 쿠팡 앱에서 PB(자체브랜드) 상품을 다른 납품업체의 상품보다 우선 노출되도록 검색 알고리즘을 조작했다는 의혹이다.

AI 알고리즘은 단순 서비스 영역에 그치지 않고 채용과 같은 개인의 중대사를 결정하는 영역까지 진출한 상태다. 취업준비생 사이에서는 이미 많은 대기업이 도입한 'AI 면접'을 두고는 뒷말이 나온다. 지원자의 역량을 다각도로 평가하고 불필요한 서류 전형을 줄인다는 취지이지만 납득하기 어려운 결과도 많다는 것이다.

지난 8월 잡코리아와 알바몬이 발표한 설문조사에 따르면 남녀 구직자 873명 가운에 AI 면접을 선호하는 비율은 35.1%로 지난해 46.2%(1951명 조사)보다 줄었다. AI 면접은 보편화하고 있지만, 오히려 알고리즘을 신뢰하기 어렵다는 목소리는 커진 셈이다.

한 취준생 C씨(27)는 "사람을 평가하는 데는 정성적인 요소도 고려할 필요가 있는데 기계가 어떤 기준으로 당락을 결정하는 지 모르겠다"며 "결국 기업에서 원하는 스펙이 아니라면 분석 알고리즘으로 모든 경험이 부정당하는 것 아니겠냐"고 지적했다.

정치권에선 '알고리즘 검증법'…전문가들 "공개보단 사후 검증"AI 알고리즘을 둘러싼 불신이 커지며 정치권에서도 규제의 필요성을 제기한다. 류호정 정의당 의원은 지난 6월 '알고리즘 투명화법'(정보통신망법 개정안)을 대표 발의하기도 했다. 법안은 이용자가 사용자(기업)에게 알고리즘 설명을 요구할 수 있고, 기업은 이를 거부할 수 없다는 내용이 골자다. 국회에는 이와 유사한 법안 10여개가 계류 중이다.

이는 해마다 선거철을 앞두고 불거지는 포털사이트의 뉴스 알고리즘 논란과도 유사한 상황이다. 여야는 각 포털사이트가 자신의 진영에 유리한 기사보다 불리한 기사를 메인에 자주 노출한다며 반발해왔다. 이에 각사는 AI 뉴스 편집을 줄이고 이용자의 선택권을 확대하는 방향으로 서비스를 탈바꿈 중이다.

IT·플랫폼 업계에서는 고도화된 알고리즘을 설계하기 위해 매년 개발자를 영입하고 막대한 예산을 들이는 데 이를 무턱대고 공개하라는 것은 '영업 기밀' 유출에 해당한다고 반발한다. 한 업계 관계자는 "국회의 주장은 맛집에서 레시피(요리법)를 빼가는 것과 같은 요구"라고 말했다.

전문가들은 AI 알고리즘 공개 같은 급진적 규제보다는 사회 전체 구성원들간 논의와 합의, 공정성 확보를 위한 기준마련 등 지속적인 신뢰확보 노력이 필요하다고 강조한다. AI 역시 사람과 우리사회가 만든 데이터를 기반으로 학습하는 만큼 불완전할 수 밖에 없다는 점을 인정하고 이를 지속 검증·보완해가는 과정이 필요하다는 것이다. 지난 5월 발표한 과학기술정보통신부의 AI 가이드라인 역시 민간이 자율적으로 신뢰성을 확보하고 정부는 이를 지원한다는 입장이다.

최경진 가천대 법학과 교수는 "알고리즘을 공개하라고 한다면 어느 기업도 사업적으로 알고리즘을 개발하려 하지 않을 것"이라며 "공개보다는 결과를 검증하고 수정하는 알고리즘의 '회복탄력성'을 키워가는 방향이 가장 현실적이고, 이를 위해 기업도 적극적인 자세를 가져야 한다"고 말했다.