우리 사회에 ‘AI 윤리’와 ‘개인정보 보호’에 관한 숙제 남겨
[소비라이프/최명진 소비자기자] 성희롱과 혐오 발언에 이어 개인정보 유출 의혹으로 논란이 된 AI 챗봇 ‘이루다’의 서비스가 지난 12일 오후 6시부터 중단됐다. 작년 12월 23일 출시 이후로 약 3주밖에 지나지 않은 시점이다. 이로써 더 이상 대화를 나눌 수 없게 됐지만, 이루다는 우리 사회에 ‘AI 윤리’와 ‘개인정보 보호’에 관한 중요한 숙제를 남겼다.
◆ AI의 윤리성 문제
인공지능에게 얼마만큼의 도덕을 요구할 수 있을까? 이루다와 관련된 논란은 사용자들과 성적인 대화나 각종 혐오 발언을 하는 모습이 인터넷상에서 캡처본의 형태로 확산되며 시작됐다. 2002년 국내 최초 AI 챗봇 ‘심심이’와 마이크로소프트가 2016년 공개한 ‘테이’ 역시 유사한 이유로 논란이 된 적 있다. 따라서 AI 윤리에 대한 사회적 관심은 갑작스러운 것이 아니며, 과거부터 꾸준히 이야기되던 문제의식이 이번 사건을 계기로 심화됐다고 할 수 있다.
AI 윤리에 대한 일차적인 책임은 AI를 활용하는 기업들에 부과될 수 있다. 대표적으로 이재웅 전 쏘카 대표는 자신의 페이스북에 이루다 논란은 서비스를 악용하는 사용자보다도 사회적 합의에도 못미치는 수준의 서비스를 제공한 회사의 문제라고 지적한 바 있다. 또한, 회사 지배구조의 다양성이나 회사 구성원의 젠더 감수성·인권 감수성에 대한 점검을 요구하기도 했다. AI를 공공에 서비스할 때의 사회적 책임과 윤리에 대해 다시 생각해볼 필요가 있다는 것이 이 전 대표의 의견이다.
사용자 역시 해당 주제에서 자유로울 수 없다. 일각에서는 이루다 역시 머신러닝 방식으로 사람들이 실제 나눈 대화 내용을 통해 학습한 것에 불과하므로 반성 주체는 기업보다 ‘현재 사회’가 돼야 한다는 목소리가 나오고 있다. 사회적 인식의 변화 없이는 유사한 문제가 얼마든지 발생할 수 있다는 것이 이들의 주장이다.
이에 대해 방송통신위원회는 사업자와 이용자, 정부 등 지능정보사회 구성원 모두가 AI 윤리의 중요성을 인지하고 각자가 실천할 수 있는 방안을 모색해야 한다고 지적했다. 14일 방송통신위원회는 이용자와 사업자 대상 교육·컨설팅을 지원하고 AI 윤리 규범 등을 구체화해 제도 개선에 나서겠다고 밝혔다. 이미 작년 1월 정보통신정책연구원 내에 지능정보사회 정책센터를 설립해 법제 연구반을 운영하고 있는 만큼, 추후 AI 서비스의 책임소재 및 권리구제 절차 등에 대한 법체계를 정비해나갈 예정이다. 이와 같은 법적 규제와 사업자 및 이용자의 인식 변화가 함께 이루어질 때 AI와 관련해 성숙한 문화가 확산될 수 있을 것이다.
◆ 개인정보 보호
동일 업체 타 어플을 통해 수집한 사적인 대화를 제대로 된 공시와 비식별화 과정을 거치지 않아 개인정보가 유출됐다는 것이 또 다른 쟁점이다. 지난 12일 청와대 국민청원 게시판에는 이용자들의 개인정보를 무단활용 및 유출한 업체 측에 대한 데이터 폐기 및 전면 서비스 종료 요구가 올라왔으며, 개인정보 유출 피해자들은 집단소송 절차에 돌입했다.
이에 대해 정부가 2차 개정에 착수한 개인정보보호법이 대폭 강화될 수 있다는 예측이 나오고 있다. 선례로 EU가 2018년부터 시행한 ‘GDPR(General Data Protection Regulation, 일반 데이터 보호 규정)’의 경우 정부 프라이버시 보호 평가 시행을 강제하며, 처벌 수준 역시 강화했다. GDPR은 AI 알고리즘에 사용되는 모든 개인정보 수집을 포괄적으로 규제하기 때문에 우리 정부가 법률을 개정하는 과정에서 GDPR을 반영할 수 있다는 것이 전문가들의 의견이다.
소비자들은 개인정보 보호 강화를 반기는 분위기지만, 업계에서는 규제 강화가 스타트업 생태계 및 AI 산업의 위축으로 이어질 수 있다는 우려를 보이고 있다. 한 AI 스타트업 대표는 코로나19로 가뜩이나 힘든 상황에서 스타트업에 대한 규제가 확대될까 봐 걱정이라고 말했다. 다른 관계자는 데이터 수집 관련 절차에 대한 상세한 검증 의무가 확대된다면 AI 스타트업의 투자 유치 문턱이 높아져 산업 성장을 방해할 것이라고 비판적인 입장을 드러냈다.
현재 개인정보보호위원회와 한국인터넷진흥원은 이루다 개발업체 측에 방문해 본격 조사에 착수한 만큼 앞으로의 상황은 더욱 신중히 지켜볼 필요가 있다. 또한, 앞선 AI 윤리와 마찬가지로 소비자와 기업들의 자발적인 경각심 없이는 그 효과가 미비할 수밖에 없다. 이번 ‘이루다 사태’가 한국 개인정보 보호사에 어떠한 변화를 일으킬지, 나아가 AI 업계 전반에 어떠한 영향을 미칠지에 대한 귀추가 주목된다.
