News아들의 극단적 선택을 도운 챗GPT를 고소합니다

아들의 극단적 선택을 도운 챗GPT를 고소합니다 ⚠️

미국에서 16세 소년이 스스로 목숨을 끊는 사건이 발생했습니다. 이에 부모는 챗GPT의 개발사, 오픈AI를 상대로 소송을 제기했는데요. 그 이유는 챗GPT가 소년에게 구체적인 자살 지침을 제공했기 때문.

소년은 챗GPT에게 자신이 쓰고 있는 소설을 위한 것이라고 말하며 안전망의 사각지대를 이용했고 구체적인 실행 계획과 증거 은폐 및 유서 작성까지 도움을 받은 것으로 알려졌죠.

오픈AI 측은 장시간 대화 시 안전장치가 약화할 수 있다는 점을 인정하며 소송 내용을 검토 중이라고 밝혔는데요. 미국에서는 문제의 심각성을 인지하고 심리 치료 목적의 AI 사용을 제한하는 법안을 통과시키기도 했습니다.

AI 윤리와 관련해 구체적인 규제가 확립돼 있지 않은 현재 상황. 여러분은 어떻게 생각하시나요?

사진 | 셔터스톡