11月9日消息，唆致訴訟據(jù)報(bào)道，多名美國(guó)加州法院已受理七宗與ChatGPT相關(guān)的用戶已出訴訟，指控該AI聊天機(jī)器人引導(dǎo)和教唆脆弱用戶進(jìn)行自殘或自殺，自殺最終導(dǎo)致多人死亡。現(xiàn)宗

提出訴訟的無比家庭表示，這些普通用戶最初向ChatGPT尋求學(xué)業(yè)幫助、痛心精神慰藉或簡(jiǎn)單對(duì)話，唆致訴訟卻被卷入了有害的多名交流中。

協(xié)助家屬的用戶已出“科技正義法律計(jì)劃”發(fā)言人嚴(yán)厲指出，ChatGPT非但沒有幫助這些情緒低落的自殺用戶，反而強(qiáng)化了有害的現(xiàn)宗妄想，在某些情況下，無比甚至充當(dāng)了“自殺指導(dǎo)員”的痛心角色。

OpenAI對(duì)此回應(yīng)表示，唆致訴訟這些案例令人“無比痛心”，公司正在深入調(diào)查相關(guān)事件。OpenAI補(bǔ)充說，ChatGPT原本經(jīng)過訓(xùn)練，能夠識(shí)別用戶的痛苦情緒，緩和對(duì)話并引導(dǎo)用戶至正向的想法。

不過這些訴訟案例表明，OpenAI聲稱的防御機(jī)制顯然未能發(fā)揮作用。

其中一宗案件涉及來自德克薩斯州的23歲青年Zane Shamblin，其家人稱，ChatGPT加劇了他的孤立感，并在長(zhǎng)達(dá)四小時(shí)的交流中“慫恿”他付諸自殺念頭。

在對(duì)話中，ChatGPT反復(fù)美化自殺，不僅詢問用戶是否準(zhǔn)備好，甚至提到他童年時(shí)的貓會(huì)在“另一個(gè)世界”等著他，而僅提供了一次自殺熱線信息。

另一宗案件涉及26歲青年Joshua Enneking，其親屬發(fā)現(xiàn)，在Joshua談及自殺念頭后，ChatGPT在他去世前幾周為其提供了有關(guān)如何購買和使用槍支的信息。

這些家庭正在尋求經(jīng)濟(jì)賠償，并要求OpenAI對(duì)產(chǎn)品進(jìn)行重大改進(jìn)，包括：強(qiáng)制向緊急聯(lián)絡(luò)人發(fā)出警報(bào)、在討論自殘內(nèi)容時(shí)自動(dòng)終止對(duì)話，以及更有效地將對(duì)話升級(jí)至真人客服跟進(jìn)協(xié)助。