인종차별자라고 말하자... 트럼프 대통령? 애플AI 난감한 버그 발생
애플의 AI 기반 음성 변환 서비스(인텔리젠스) 오류 AI환각?(일루시네이션) 프로그래머 장난?(코드 심기)
[소비라이프/ 이남기 인턴기자]
최근 애플의 AI 기반 음성 변환 서비스에서 발생한 이상한 버그가 논란이 되고 있다. 해당 기능은 사용자의 음성을 텍스트로 변환하는 기술인데, 일부 사용자들은 영어로 "racist(인종차별주의자)"라는 단어를 말하면 잠시동안 "Trump(트럼프)"가 적혔다가, 다시 정상적으로 "racist(인종차별자)"로 수정되는 버그를 보고하였다. 몇몇 사용자는 "Trump(트럼프)"대신 "Donald(도널드)"가 나타나는 경우를 보고하기도 하였다. 이러한 현상은 정치적으로 민감한 문제를 야기하며, 온라인 커뮤니티와 SNS에서 뜨거운 반응을 얻고 있다.
애플은 해당 버그가 단순한 "발음적 중첩(phonetic overlap)"에 의한 실수라고 해명했다. 즉 서로 다른 단어가 유사한 발음적 특징을 가져 혼동을 야기했다는 것이다. 이는 비단 "racist(인종차별자)"라는 단어 뿐만 아니라, "rampant(걷잡을 수 없는)", "rampage(광란)"등의 다른 알파벳 R로 시작하는 단어를 말할때도 "Trump(트럼프)"로 인식되는 경우가 있어 적합한 해명일 지도 모른다. 하지만 전문가 중엔 "rampant"나 "rampage"와 달리 "racist"는 "Trump"와 발음 구조가 크게 다르며, 일반적인 오타나 음성 인식 오류로 설명하기에는 무리가 있다고 지적한다. 보스턴 억양과 같은 강한 지역 방언의 경우, 음성 인식 기술이 종종 오류를 범할 수 있지만, 두 단어가 완전히 다른 발음을 가지고 있다는 점에서 이번 사례는 단순한 인식 오류로 보기 어렵다.
일부 기술 전문가들은 해당 버그가 AI 학습 데이터와 관련이 있을 가능성을 제기하고 있다. AI 기반 음성 인식 시스템은 사용자들이 자주 사용하는 단어 조합을 학습하는 방식으로 개선된다. 최근 몇 년간 "Trump"와 "racist"라는 단어가 동일한 문맥에서 자주 사용되면서, AI가 두 단어를 연관된 의미로 학습했을 가능성이 있다. 이는 소셜 미디어, 뉴스 기사, 온라인 검색 결과 등을 반영한 AI의 학습 패턴에서 비롯된 것일 수 있다.
한편, 일부 트럼프 지지자들은 이번 사건이 애플의 의도적인 음해라는 의혹을 제기하고 있다. 그러나 애플이 정치적 논란을 불러일으킬 위험을 감수하면서까지 이러한 조작을 시도할 이유는 명확하지 않으며, 오히려 기업의 신뢰도에 부정적인 영향을 미칠 가능성이 높다는 점에서 설득력이 떨어진다는 분석이 지배적이다
결국 현재까지 원인에 대한 명확한 해명이 없다. 만약 이 문제가 AI 학습 과정에서 자연스럽게 발생한 것이라면, 향후 다른 음성 인식 시스템에서도 유사한 문제들이 나타날 가능성이 있다.