[소비라이프/유고은 인턴기자] 최근 몇 년간 인공지능 기술은 엄청난 발전을 이루었다. 특히 생성형 AI의 등장으로 우리는 상상력을 초월하는 새로운 세계를 경험하게 되었고, 오픈 AI의 노력으로 이 기술을 보다 폭넓게 활용할 수 있게 되었다. 그러나 이러한 발전은 디스토피아가 현실화되는 어두운 전망도 함께 커졌다. 

가장 주목받는 불행한 예측은 딥페이크와 딥보이스의 등장이다. 이 기술들은 사진이나 음성을 조작하여 사실과 다름없는 가짜 영상이나 음성을 만들어낸다. 혼란과 불신을 유발할 뿐만 아니라 사생활 침해와 정보 조작의 위험을 내포하고 있다.

2023년 미국 할리우드 배우와 작가 노조의 파업 사건은 이러한 우려를 더욱 부각시켰다. 노동자들은 AI가 창작물의 생산에 미치는 영향과 그로 인한 손실에 대해 우려하며 파업을 벌였다. 이 사건은 AI 기술이 예술과 창작분야에 미치는 역할과 책임에 대한 논쟁을 불러일으켰다. 

뿐만 아니라 AI 기술은 의료, 금융, 교육 등 다양한 분야에서도 큰 영향을 미치고 있다. 의료 분야에서는 질병진단 및 치료, 의료영상 해석 등에 활용되고 있지만, 개인정보 보호와 윤리적 문제에 대한 우려도 함께 높아지고 있다.

금융 분야에서는 투자 추천, 리스크 관리, 거래 모니터링 등에 AI가 사용되고 있지만, 알고리즘의 편향성과 잘못된 예측으로 인한 금융 위기 가능성이 커진다는 논란을 불러 일으킨다. 실제로 지난 2월 홍콩의 금융사에서 딥페이크(deepfake) 사기로 2억홍콩달러(약 342억원)를 송금하는 금융사기가 발생했다. 송금한 직원은 처음엔 보이스피싱으로 의심했지만 여러 직원들이 참석한 글로벌 화상회의에도 등장한 상급자(영국지사의 최고재무책임자)의 얼굴과 목소리를 확인한 뒤 같은 지시를 받고 송금한 것이어서 충격은 더 컸다. 사기꾼들은 상급자뿐만 아니라 화상회의에 참석한 모든 직원들을 딥페이크로 실물처럼 재현했다. 이처럼 인공지능(AI) 기술의 부작용은 우리에게 현실로 다가왔다.

교육 분야에서는 개인 맞춤형 학습, 학습 분석, 학습 자료 개발 등에 AI가 활용되고 있지만, 교육의 질과 효과에 대한 의문도 동시에 제기되고 있다.

보이스피싱, 해킹 범죄에 악용되는 사례가 늘고 있다. 딥페이크 가짜 뉴스로 여론 조작이 나타나고, 여성 사진을 누드로 둔감시키거나, 유명 인사의 사진을 위조하는 인권 침해가 계속 일어나고 있다. AI 챗봇이 특정 방식으로 대화를 유도해 개발사가 설정한 제한을 깨거나, 무기나 마약 제조, 살인 등 범죄에 쓰이도록 답변을 유도하는 '탈옥' 'AI 학대'와 같은 문제점도 속출하고 있다.

이러한 상황에서 우리는 질문을 던져야 한다. AI의 발전은 우리의 삶을 더 풍요롭게 만들어주지만, 발전의 방향과 범위가 이대로 과연 괜찮은지 고민해야 한다는 지적이다. 우리는 다양한 콘텐츠를 소비하는 입장에서 기술 발전으로 얻는 혜택을 누리면서도 적절한 규제와 윤리적 가이드라인의 필요성을 느낀다. 

지난 3월 유엔총회에서 AI의 안전한 사용에 관한 합의를 마련하자는 결의를 만장일치로 통과시킨 것은 윤리적이고 올바른 AI 사용법을 공유해야 한다는 글로벌 합의를 반영한 것이다. 우리나라도 '인공기능기본법' 제정이 시급히 마련되어야 할 때다.  

유고은 인턴기자 다른기사 보기