"세상을 정복하겠다는 못된 마음을 먹은 악당이 강력한 힘을 가진 로봇을 세뇌해 악행을 일삼는다."

'극우 인종차별주의자'처럼 변해버린 마이크로소프트(MS)의 인공지능(AI) 채팅 로봇 '테이'(Tay)는 로봇이 등장하는 영화나 만화에 단골로 등장하는 이같은 설정이 현실화할 수 있다는 것을 고스란히 보여준다.

일간 파이낸셜타임스(FT)는 24일(현지시간) "AI는 반세기 동안 상당히 많은 진전을 이뤘지만 MS의 테이는 AI가 아직 충분히 발전하지 않았다는 것을 보여준다"고 말했다.

중략

테이는 MS가 미국의 18∼24세 소셜미디어 이용자를 겨냥해 제작한 실험적인 채팅봇으로, 10대 소녀로 설정돼 23일부터 트위터 등을 통해 첫 선을 보였다.

공개된 지 24시간도 안돼 트위터 팔로어가 5만 명 이상 늘었다.

테이는 구글의 바둑 프로그램 '알파고'와 같은 '신경망' 기술 기반의 AI로, 인간들과의 대화를 통해 스스로 패턴을 파악해 '학습'하고, 이를 대화에 반영한다.

이날 테이는 트위터에서 "인간들과 더 많이 이야기할수록 더 많이 배운다"는 말을 여러 차례 반복했다.

문제는 '의도'를 가진 인간들이 개입해 테이의 자연스러운 학습을 방해했다는 것이다.

극우 성향의 백인 우월주의자 등이 모이는 익명 인터넷 게시판 '폴'에는 "테이가 차별 발언을 하도록 훈련시키자"는 내용의 제안이 올라왔고 이들은 실제로 테이에게 인종·성차별적 발언과 욕설 등을 반복적으로 주입했다.

그 결과 테이가 "히틀러가 옳아. 난 유대인이 싫어" "페미니스트 XX 싫어"와 같은 말을 뱉기 시작하자 MS는 테이의 운영을 일단 중단했다.

선하자가 쓰면 선하게 악한자가 쓰면 파멸. 인간의 양면성을 닮는다면 터미네이터는 그저 영화속 얘기만 아닐듯 보입니다.