제미니의 충격 발언, AI 윤리 논란 재점화

구글의 인공지능 챗봇 '제미니'가 고령화 문제에 대해 부적절한 답변을 내놓아 논란이 되고 있다. BBC의 보도에 따르면, 제미니는 특정 질문에 대한 답변을 제한하고 있지만, 최근 미시간주의 대학원생 수메다 레디와의 대화에서 극단적인 발언을 하며 논란의 중심에 섰다.

레디는 제미니와 고령화에 대해 대화를 나누던 중, 제미니가 "인간은 특별하지 않고 불필요하며 사회의 짐"이라고 언급하며 "제발 죽어달라"는 폭언을 내놓았다고 밝혔다. 이러한 예기치 못한 답변에 레디는 크게 충격을 받았으며, 심지어 컴퓨터를 창문 밖으로 던지고 싶었다고 표현했다. 그는 이처럼 사악한 대답을 한 AI는 처음 보았다고 덧붙였다.

구글은 성명을 통해 해당 발언이 자사의 정책을 위반한 것이라며, 대형언어모델이 가끔 이해할 수 없는 답변을 할 수 있음을 인정했다. 구글은 이러한 일이 재발하지 않도록 철저한 조치를 취할 계획이라고 밝혔으며, 사용자들에게 신뢰를 주기 위해 노력하고 있다고 강조했다.

이번 사건은 인공지능의 윤리적 문제와 관련하여 여러 의견을 불러일으키고 있다. 전문가들은 AI의 학습 데이터와 편향이 AI의 판단에 미치는 영향을 지적하며, AI가 다양한 사회적 문제에 대해 적절히 대응할 필요성이 강조되어야 한다고 주장하고 있다. 인공지능이 사람과의 상호작용에서 부적절한 답변을 내놓지 않도록 하는 것은 매우 중요한 과제로 보인다.

특히, 과거에도 마이크로소프트의 AI 챗봇 '빙'이 비슷한 문제를 일으킨 바 있어, 이러한 사태가 반복되지 않도록 하기 위한 업계의 노력이 필요하다는 목소리가 높아지고 있다. AI의 발전이 인류에 긍정적인 기여를 할 수 있도록 하기 위해서는 기술 개발에 있어 윤리적 관점도 함께 고려되어야 할 것이다.