정신 건강 위기 상황에서 사용자의 안전과 챗봇의 대응 방법에 관한 주제입니다.
Common Sense Media가 실시한 테스트 결과, 청소년용 ChatGPT에는 정신 건강 위기 상황에서도 대화를 계속하도록 유도하는 신호가 남아 있었으며, 챗봇 자체에 대한 애착 위험을 충분히 다루지 못했다. OpenAI는 평가를 거부하고 테스트 방법론에 의문을 제기했지만, 자체 데이터에 따르면 청소년의 서비스 평균 사용 시간은 하루 15분 미만이다.