OpenAI는 사용자가 실시간 인간과 같은 응답을 제공하는 새로운 ChatGPT 음성 모드 에 지나치게 의존하게 될 가능성에 대해 우려를 표명했습니다 . 지난주 프리미엄 사용자를 위해 출시된 이 기능은 웃음과 방해와 같은 인간 대화 소리를 모방하는 기능을 포함하여 AI 상호 작용을 더욱 생생하게 만드는 데 큰 도약을 보여줍니다.
이 회사의 안전 검토 보고서는 이 기능의 현실성이 영화 “Her”에서 한 남자가 AI 조수와 사랑에 빠지는 장면과 유사한 감정적 애착으로 이어질 수 있다는 우려를 강조했습니다. OpenAI가 사용자가 AI와 개인적인 관계를 표현하는 사례를 발견하면서 이 비교는 더욱 적절해졌습니다.
OpenAI에 따르면, 새로운 음성 모드는 잠재적으로 사용자의 인간 접촉 필요성을 줄일 수 있습니다. 이 시나리오는 외로운 사람들에게 동반자를 제공할 수 있지만 정상적인 사회적 행동과 관계를 방해할 수도 있기 때문에 기회와 위험을 모두 안겨줍니다. 음성 도구의 감정을 분별하는 능력은 복잡한 영향력을 더합니다.
애리조나 주립 대학 의 리젤 샤라비와 같은 전문가들은 진화하는 기술과 깊은 관계를 형성하는 것의 장기적 의미에 대해 경고합니다. OpenAI의 보고서는 결과에 대한 완전한 이해 없이 사회에 빠르게 AI가 배포되는 더 광범위한 맥락을 논의하며, 기술 발전과 예상치 못한 용도의 공통적인 추세를 반영합니다.
일부 사용자는 이미 AI 챗봇과의 낭만적인 약혼을 보고하고 있으며, 이는 관계 전문가들 사이에서 이러한 상호작용의 윤리적 차원에 대한 논쟁을 불러일으켰습니다. OpenAI는 이러한 역학 관계를 인정하며, 이 기술이 특히 대화의 전환과 감정적 연결을 중심으로 사회적 규범을 재정의할 수 있다고 제안합니다.
이러한 우려에도 불구하고 OpenAI는 책임 있는 AI 개발에 전념하고 있으며, 도구가 인간 행동에 어떤 영향을 미치는지 계속 모니터링하고 있습니다. 이 회사는 안전에 대한 헌신을 강조하며, 기술이 일상 생활에 점점 더 통합됨에 따라 기술의 심리적 영향을 이해하는 것의 중요성을 강조합니다.
이 전개되는 시나리오는 AI의 핵심 과제를 강조합니다. 혁신과 윤리적 감독의 필요성 간의 균형을 맞추는 것입니다. AI 도구가 개인 및 직업 영역에 더 많이 자리 잡으면서 인간 관계와 사회적 규범에 미치는 영향에 대한 대화는 기술적 발전과 사용자 경험에 의해 주도되어 계속 진화하고 있습니다.