'AI 거버넌스', 인공지능 윤리문제 극복할까

인공지능(AI)이 인간 삶에 들어오면서 차별이나 프라이버시 등 윤리적인 문제가 부각되고 있다.

세계 각국의 정책 당국자와 기업들도 인공지능 활용에 따른 윤리 문제에 대해 어떻게 대처해야 할지 논의를 시작했다.

AI는 인류와 사회 곳곳에 혜택을 주면서 동시에 문제도 일으키고 있기 때문이다. 인공지능 도입이후 무엇이 문제이고, 어떻게 대처하면 좋을지가 과제로 남아 있다.
미국 아마존닷컴이 도입한 인사채용 AI가 여성을 불리하게 평가해 사용을 중단한 사례가 있었다. 남성 우위였던 과거의 채용 데이터를 학습하고, 여성이라는 것만으로 마이너스 점수를 준 것이다.

일본에서도 취업정보사이트 '리쿠나비'가 AI로 예측한 구인 감소율을 클라이언트 기업에 제공하고 행정지도를 받기도 했다. 취업활동 학생들의 동의를 받지 읺으면서 '사퇴하면 곤란하다'라는 기업측의 의도를 편향적으로 인식하면서 구직자 취업활동을 점수로 채점해 사회의 비판을 받았다.

대출 심사에서도 AI가 도입되고 있지만, 금융기관들은 AI도입을 신중하게 생각하고 있다. 직업이나 거주지 등에 의해 불공평한 판단을 하지 않을까, 대출 여부나 상한액의 근거를 고객에게 어떻게 전하는지 등에 대해 의문을 제기되고 있다. 대화형 AI가 호언장담하는 문제도 있었다.

기업들이 인공지능을 사용하면서 윤리적인 문제 등 부작용이 속출하자 AI를 규제하는 움직임이 커지고 있다.

유럽연합(EU)은 지난 2021년 4월 포괄적인 인공지능 규제안을 발표했다. 인공지능 사용시 리스크에 따라 이용을 금지·제한하고 이를 위반한 기업에 거액의 벌금을 부과하고 있다.

EU의 인공지능 규제안은 원칙적으로 공공장소에서의 범죄수사나 공공기관의 신빙성 확보를 위해 안면인식을 사용하는 기술은 금지된다. 미국 경찰이 안면 인식을 이용해 흑인을 잘못 체포한 사례가 있기 때문이다.

EU는 또한 소비자가 AI로 인해 피해를 입은 경우 개발자에게 손해 배상을 청구할 수 있는 권리를 포함하는 지침 초안을 발표했다.

지난 10월 미국 정부는 개발자에게 공정성, 개인 정보 보호 및 기타 문제를 고려할 것을 촉구하는 ]AI 권리 장전 청사진'도 발표했다.

일본 정부도 2019년 '인간 중심의 AI 사회 원칙'을 발표했다. 공정성과 안전에 대한 고려를 요구하고 총무성과 경제 산업성이 지침을 제정했다.

미국과 EU, 일본 등 정책당국자들이 인공지능 윤리문제를 논의하면서 규제를 둘러싼 다양한 의견이 제시되고 있다.

EU처럼 법으로 엄격하게 규제하는 것이 좋은지, 기업들의 자율 규제 등 느슨한 규칙으로 규제하는 것이 더 나은지에 대해 각 국가마다 의견이 분분한 상황이다.

인공지능 윤리문제를 법률로 규제하고, 고액의 벌금을 부과하면 기술개발을 저해하는 것 외에, 진화하는 AI에 법제정이 따라잡지 못할 우려가 있다.

반면 자율 규제에 의존하는 방식은 규칙을 따르지 않는 기업이나 사람을 어떻게 대할지 등 실효성에 대한 문제도 제기된다.

일과 삶에서 있어 'AI 거버넌스'의 개념은 미국 기업들을 중심으로 확산되고 있다.

AI 제품과 서비스의 경영상의 위치 및 책임 체제를 명확히 하고 사회규범과 제도를 준수하도록 통제하고 있다.

시장에 출시하기 전 개발자, 공급자, 소비자, 시민 사회 단체 및 정부를 포함한 광범위한 당사자의 의견을 듣고 위험을 식별하는 방법이 고안되고 있다.

AI를 둘러싼 문제는 윤리적(Ethical), 법적(Legal), 사회적(Social) 과제(Issues)가 복잡하게 얽혀, 이 문제들의 약자를 사용해 'ELSI(엘시)'라고 불른다.

장점과 단점이 있으며 '양날의 검'인 AI를 어떻게 다루는게 나을지 각국에서 고민이 깊어지고 있다.

일각에선 어린 시절부터 리터러시를 익히는 교육의 본연도 필요하다는 지적도 나온다.

AI가 결국 인간의 지식을 능가하는 '특이점'에 도달하고 대부분의 인간 일자리를 빼앗을 것이라는 우려는 최근 줄어들었지만 AI의 보급은 근본적으로 인간과 기계의 관계에 의문을 제기하고 있다.

윤리적 문제 외에도 자율 주행 사고에 대한 책임, AI가 만든 소설, 음악 및 그림의 가치와 권리 보호와 같은 법률 시스템의 많은 문제가 제기된다.

AI가 인간의 작업을 대체하는 동안 사람들은 보다 창의적인 작업에 집중하고 역량을 확장할 수 있다. 이 '대체와 확장'은 AI를 다루는 방법에 대해 생각하는 중요한 키워드가 될 전망이다.

이은수 기자 givenewsmedia@gmail.com

Copyright © 2020 : webdaily(웹데일리). All rights reserved.