알고리즘의 공정성·투명성 확보를 위한 대책 마련돼
[소비라이프/권유정 소비자기자] AI가 사회·경제·문화 전반에 걸쳐 활용되는 가운데, 알고리즘의 투명성과 공정성과 관련해서 문제가 발생하고 있다. 이에 지난달 24일 과학기술정보통신부와 국무조정실은 인공지능 시대를 맞이해 법과 제도, 규제에 대한 로드맵을 발표했다.
채용 시 면접은 알고리즘이 중대하게 활용되는 대표적인 경우이다. 코로나19가 확산함에 따라 채용에서 인공지능 면접은 빠르게 도입됐다. AI 역량 검사 개발사인 마이다스인에 따르면, 2020년 12월을 기준으로 약 440곳의 기업이 채용 절차에 AI 역량 검사를 도입했다. 이는 2019년 12월까지 AI 역량 검사를 도입한 기업 수의 2배가량이 넘는 수치다.
AI 면접이 증가했지만, 지원자를 판별하는 알고리즘이 공정한지는 확실하지 않을 때가 있다. 2018년 미국에서는 IT 기업 아마존의 인공지능 채용 알고리즘이 이력서에 ‘여성’이라는 단어가 포함될 때 감점을 해 논란이 일었다. 10년간 기업에 제출된 이력서 데이터로 인공지능을 학습시킨 결과 남성 직원 비율이 높아 여성에게 불리한 쪽으로 알고리즘이 만들어진 것이다. 이후 아마존은 사용해오던 인공지능 채용 프로그램을 폐지했다. 이 사건을 통해 채용 과정에서 활용되는 알고리즘이 공정하지 않을 수도 있음이 알려졌다.
우리나라에서는 작년 11월 23일 시민단체 사단법인 정보인권연구소, 민주사회를 위한 변호사모임 디지털정보위원회, 진보네트워크센터가 채용 과정에서 활용된 알고리즘에 대한 정보공개를 거절한 13곳의 공공기관을 상대로 정보공개 거부처분 취소소송을 제기했다. 공공기관들이 업체의 비밀이라며 정보공개를 거부했기 때문이다. 이에 시민단체들은 영업비밀도 중요하나 “공공기관의 의사결정에 이르는 AI 프로그램에 대한 기본적인 사항은 국민 앞에 투명하게 공개돼야 마땅하다”라고 밝혔다. 이처럼 채용이라는 중요한 결정에 영향을 미쳐도 막상 그 과정을 처리하는 알고리즘은 알기 힘든 상황이다.
채용 면접뿐만 아니라 쇼핑 분야에서도 알고리즘은 널리 활용되고 있다. 온라인 쇼핑몰에서는 알고리즘이 소비자에게 상품을 추천하고, 소비자는 이를 참고해 구매 여부를 결정한다. 네이버 쇼핑의 인공지능 상품 추천 기술 AiTEMS는 기존에 중요시되던 리뷰 수 등과 같은 정보 대신 빅데이터를 기반으로 상품을 추천한다. 따라서 비인기상품이나 신규 상품이라도 사용자의 취향에 맞으면 알고리즘이 상품을 추천한다. 고려대학교 이건웅 교수 연구진이 발표한 ‘AiTEMS, SME의 새롭고 다양한 발견을 위한 AI 기술’ 연구에 따르면, AiTEMS가 인기상품보다 비인기상품을 6.2배, 신규 상품보다 비신규 상품을 1.2배 더 선택하는 것으로 나타났다. 과거에는 주목받지 못했던 상품을 알고리즘을 통해 소비자가 선택하는 것이다. 중소상공인(SME)에게는 이러한 알고리즘이 사업을 성장시킬 수 있는 중요한 요소로 작용한다.
그런데 지난 10월 네이버가 상품 노출 알고리즘을 자사에 유리하도록 조정한 사건이 발생했다. 수년 동안 자사가 운영하는 동영상 서비스와 오픈마켓을 인위적으로 검색 결과의 상위에 올린 것이다. 이에 공정거래위원회는 시정명령과 더불어 과징금 267억 원을 부과했다. 이 사건은 공정하다고 생각되던 알고리즘에 사람이 개입한 것으로, 알고리즘의 투명성 문제에 불을 지폈다.
이처럼 온라인 쇼핑몰, 인공지능 면접 등에서 사용되는 알고리즘에 대해 투명성과 공정성 문제가 제기되고 있다. 이번 로드맵에서 과학기술정보통신부는 알고리즘의 공정성·투명성을 확보함으로써 인공지능 기술에 대한 신뢰를 구축할 필요가 있다고 강조했다. 이에 기업이 자율적으로 알고리즘의 오류를 관리하도록 우선 유도할 계획이라고 밝혔다. 알고리즘에 의해 자동으로 처리된 의사결정에 대해서는 설명요구권과 이의제기권을 도입한다고도 발표했다.
