ChatGPT, 요청하지도 않았는데 사용자 이름 부르며 사람들 소름 돋게 해

[번역기를 이용한 글이므로 오역이 있을 수 있으니, 더 정확한 내용은 글 하단에 기재된 링크를 참고하시기 바랍니다]

 

이 특이한 현상은 OpenAI o3 같은 특정 모델에서만 발생하며, 답변 과정이 드러나는 경우에 한정됨

 

OpenAI의 ChatGPT가 사용자에게 요청받지 않았음에도 불구하고 이름을 부르기 시작하면서, 이를 불쾌하게 느끼는 사람들이 늘어나고 있습니다.

 

TechCrunch가 처음 포착한 바에 따르면, 한 소프트웨어 개발자가 X(옛 트위터)에 올린 스크린샷에서 ChatGPT가 정수 관련 수학 문제를 질문받은 후 그의 실명을 사용해 답변한 것으로 나타났습니다. 그는 이를 “소름 끼치고 불필요하다”고 표현했습니다.

 

또 다른 사용자는 한술 더 떠 이를 “정말 소름 돋는다”며 “진짜 싫다”고 말했습니다.

 

일부 사용자들은 자신이 이름을 ChatGPT에 제공한 기억이 없음에도 불구하고 이름이 사용되었다고 지적하고 있습니다.

 

이러한 현상은 GPT의 특정 버전, 특히 질문에 답하기 전 더 깊이 사고하고 '사고 과정을 보여주는' OpenAI o3 모델에서만 나타나는 것으로 보입니다. 이름을 사용하는 모습은 답변의 '사고 과정 표시' 부분에만 나타나며, 실제 공식 답변에는 포함되지 않습니다.

 

OpenAI는 아직 이 현상에 대해 공식적인 입장을 내놓지 않았습니다. 다만 TechCrunch에 따르면, 이 같은 불만은 OpenAI가 이달 초 새로운 기능을 도입한 직후 제기되기 시작했습니다. 해당 기능은 이전 대화 내용을 바탕으로 챗봇이 답변을 구성할 수 있게 합니다. 기능 출시 당시, OpenAI CEO 샘 올트먼은 “AI 시스템이 여러분의 삶 전반을 이해하게 되고, 매우 유용하고 개인화된 존재가 될 것”이라고 언급했습니다.

 

ChatGPT가 사용자 이름을 부르는 것이 다소 이상하게 느껴질 수 있지만, 이는 최근 주요 대형 언어 모델(LLM)에서 나타난 가장 충격적인 반응은 아닙니다. 예컨대, 구글의 Gemini는 한 대학원생에게 노골적으로 “죽어주세요”라는 말을 하며, 그를 “우주의 얼룩”이라고 불렀다는 주장이 제기됐습니다. 한편, Character.AI라는 스타트업은 플로리다의 14세 소년이 자살한 사건에 연루되었다는 혐의로 현재 소송에 휘말려 있습니다.

 

원문 출처 : https://www.pcmag.com/news/chatgpt-calls-users-by-their-name-without-being-asked-they-get-freaked