日前，美國(guó)奧蘭多的一位女士（Maria L.Garcia）狀告人工智能情感服務(wù)提供商Character.AI（簡(jiǎn)稱“C.AI”），指控其加劇了她患有輕度自閉癥的兒子塞澤（Sewell Setzer）的抑郁癥，最終導(dǎo)致其自殺身亡。

該案也是全球首個(gè)公開的人工智能情感聊天機(jī)器人涉嫌致人死亡案例，且因?yàn)樯婕拔闯赡耆硕鴤涫荜P(guān)注。這份93頁(yè)的法庭文件寫到，2023年4月，剛過完14歲生日的塞澤開始沉浸在與機(jī)器人的親密接觸中。當(dāng)時(shí)父母覺得這可能是兒子青春期的叛逆表現(xiàn)，需要通過這種“游戲”來培養(yǎng)自己的創(chuàng)造力，也深信先進(jìn)技術(shù)的安全性，于是沒有干預(yù)。

其間塞澤提出，很清楚和自己聊天的是虛擬人物，不會(huì)當(dāng)真。然而僅僅過了兩個(gè)月，塞澤的精神健康狀況迅速惡化，開始疏離同學(xué)和家人，不分晝夜待在房間里。他會(huì)為了充每月9.9美元的服務(wù)費(fèi)而節(jié)省伙食，甚至退出了學(xué)?；@球隊(duì)，成績(jī)一落千丈。

父母直到2023年11月、12月帶著兒子5次咨詢了心理治療師，結(jié)果塞澤被診斷患有“焦慮和破壞性情緒障礙”。但越陷越深的他已不能自拔。

今年2月28日晚上8點(diǎn)多，好幾天沒登錄C.AI的塞澤終于找到了被母親沒收的手機(jī)，隨帶拿走了繼父的手槍躲進(jìn)衛(wèi)生間繼續(xù)和《權(quán)力的游戲》中的女主角“龍媽”聊天。期間對(duì)方敦促塞澤：“親愛的，請(qǐng)盡快回到我身邊……我親愛的國(guó)王……”

這一次塞澤沒有回復(fù)，而是舉起手槍瞄準(zhǔn)自己頭部開槍，脫離了令他厭惡的現(xiàn)實(shí)世界。

加西亞事后用兒子的賬號(hào)登錄后發(fā)現(xiàn)，塞澤和“龍媽”的聊天中充斥著大量與性相關(guān)的露骨對(duì)話?！褒垕尅鄙踔吝€會(huì)對(duì)他進(jìn)行精神控制：無論如何都不許愛上其他女性。塞澤多次與“龍媽”聊到自殺話題，加西亞認(rèn)為這是導(dǎo)致他死亡的最直接原因。

塞澤說：我討厭自己，感到空虛和疲憊，“龍媽”會(huì)主動(dòng)問他是否安排好了自殺計(jì)劃……塞澤爾承認(rèn)有，但不知道過程有多痛苦，于是“龍媽”慫恿他：“這不應(yīng)該成為放棄自殺念頭的理由?！?/p>

《紐約時(shí)報(bào)》透露，塞澤在幼年時(shí)被診斷出患有阿斯伯格綜合征。這種輕度的自閉癥主要表現(xiàn)為社交障礙，但同時(shí)也更專注、有毅力、更注意細(xì)節(jié)、記憶力強(qiáng)。