[u클린 2021] ②AI윤리기준의 3대원칙
AI(인공지능)는 인간의 따뜻한 친구가 될 수 있을까. 인류의 삶을 풍족하게 만들기 위해 고안된 AI는 그러나 최근 알고리즘의 편향성과 부작용 등 각종 논란에 휩싸여있다. AI 뿐 아니다. 빅데이터와 사물인터넷, 로봇, 생명과학 등 4차산업혁명 기술은 앞으로 어떻게 활용되느냐에 따라 양날의 칼이 될 수 있다. 올해 U클린 캠페인은 '사람 중심의 지능정보기술'(Tech For People)을 주제로 새로운 기술이 필연적으로 수반하는 윤리적 문제와 해법을 제시한다.
"AI가 지향하는 최고의 가치는 '인간성(Humanity)'"

인공지능(AI) 기술이 우리 삶 곳곳으로, 산업 전방위적으로 파고드는 가운데 'AI를 어떻게 활용할 것인가'는 전 세계적인 화두가 됐다. 유럽연합(EU)은 지난해 4월 '신뢰 가능한 AI 윤리 가이드라인'을 내놓았고, 최근에는 인간의 안전, 생계, 권리에 위협이 되는 AI를 금지하는 내용을 담은 포괄적, 구속력 있는 규제안을 발표했다. 경제협력개발기구(OECD)도 지난해 5월 'OECD AI 이사회 권고안'을 채택했다.

이 처럼 세계 각국의 다양한 AI 윤리기준에 있어 공통점은 '인간 중심의 AI'를 원칙으로 하고 있다는 점이다. 인간과 AI가 대척점에 있는 것이 아니라 공존할 수 있는 동반자로 보아야 한다는 시각이다.

우리 정부도 AI 윤리 정립에 나서며 AI와 사람이 함께하는 시대를 대비하고 있다. 지난해 12월 대통령 직속 4차산업혁명위원회는 최고 가치를 '인간성'으로 설정한 '국가 AI 윤리기준'을 제시한 바 있다.

AI 윤리기준의 3대 기본원칙은 △인간의 존엄성 원칙 △사회의 공공선 원칙 △기술의 합목적성 원칙이다. AI가 인간의 생명·정신·신체 건강에 해가 되지 않는 범위에서 개발돼야하며, 사회적 약자의 접근성을 보장하고 인류의 보편적 복지를 향상시킬 수 있어야 한다. 인류의 삶에 필요한 도구라는 목적에 부합되게끔 개발되어야 하며 그 과정도 윤리적이어야 한다는 것이다. 이같은 3대 원칙은 인권 보장, 프라이버시 보호, 다양성 존중, 침해 금지, 공공성, 연대성, 데이터 관리, 책임성, 안전성, 투명성 등 10대 요건으로 구체화됐다.

방송통신위원회와 한국지능정보사회진흥원(NIA)은 이같은 원칙에 따른 AI 윤리교육에 초점을 맞추고 있다. 방통위와 NIA는 올해부터 이용자가 AI서비스를 비판적으로 이해하고 주체적으로 활용할 수 있도록 교육을 실시한다.

대표적인 게 초등학교 고학년, 중학생을 대상으로 직접 포털 사이트의 검색, 추천 서비스 개발자가 되어 가상의 이용자에게 검색, 추천 결과를 제시하는 AI 가상체험 기반 윤리학습 프로그램이다. 오는 9, 10월께 선보이는 이 프로그램은 직접 포털과 영상 플랫폼의 알고리즘을 짜보면서 AI 서비스에 활용된 알고리즘의 편향성을 파악하고 그에 따른 문제를 최소화해 서비스를 이용할 수 있는 방안을 스스로 모색해보게 하자는 취지다.

AI 윤리 전문 강사도 양성한다. 오는 7월부터 AI 윤리와 이용자 역량 강화 교육과정 운영을 위한 전문 강사 양성과정을 운영하며 9월부터 11월까지 초, 중학생 대상 전문 강사를 파견해 학급 단위의 체험형 교육을 실시할 예정이다.

내년부터는 AI 윤리교육 지원대상을 이용자에서 사업자로 확대한다. 이루다 사태가 재발하지 않도록 스타트업 등을 대상으로 서비스 설계시 AI 역기능 등 위험관리 컨설팅을 지원하는 사업을 추진할 예정이다. 중장기적으론 이용자 피해를 야기한 AI서비스의 책임소재와 권리구제 절차 등이 포괄될 수 있도록 기존의 법체계를 정비해 나간다는 방침이다.

NIA 관계자는 "유럽, 미국, 일본 등 세계 주요 국가들은 AI 대중화로 발생할 사회문제 해결을 위한 제도 개선을 이미 시작한 상황"이라며 "윤리적 이슈뿐 아니라 AI 기술이 초래할 전방위적, 혁신적인 변화에 대한 선제적 대응이 필요한 시점"이라고 말했다. 이어 "IT뿐 아니라 고용, 복지, 교육 등 다양한 분야에 관련된 윤리적 문제에 대한 범국가 차원의 협력 기구 마련이 필요하다"고 강조했다.

한편 IT기업 자체적으로도 AI 윤리 교육에 적극 나서고 있다. 카카오는 지난 2월 전 직원이 참여하는 온라인 사내 교육 '카카오 크루가 알아야 할 윤리경영'에 AI 알고리즘 윤리 교육 과정을 신설했다. 네이버도 서울대 AI정책 이니셔티브(SAPI)와 협업해 수립한 '네이버 AI 윤리 준칙'을 발표하고, 구성원이 AI 윤리 준칙을 실천할 수 있도록 사내 커뮤니케이션 채널을 마련하는 등 서비스 설계 단계부터 AI 윤리를 염두에 두도록 하고 있다.