日前，美國奧蘭多的一位女士（Maria L.Garcia）狀告人工智能情感服務提供商Character.AI（簡稱“C.AI”），指控其加劇了她患有輕度自閉癥的兒子塞澤（Sewell Setzer）的抑郁癥，最終導致其自殺身亡。

該案也是全球首個公開的人工智能情感聊天機器人涉嫌致人死亡案例，且因為涉及未成年人而備受關注。這份93頁的法庭文件寫到，2023年4月，剛過完14歲生日的塞澤開始沉浸在與機器人的親密接觸中。當時父母覺得這可能是兒子青春期的叛逆表現(xiàn)，需要通過這種“游戲”來培養(yǎng)自己的創(chuàng)造力，也深信先進技術(shù)的安全性，于是沒有干預。

其間塞澤提出，很清楚和自己聊天的是虛擬人物，不會當真。然而僅僅過了兩個月，塞澤的精神健康狀況迅速惡化，開始疏離同學和家人，不分晝夜待在房間里。他會為了充每月9.9美元的服務費而節(jié)省伙食，甚至退出了學?；@球隊，成績一落千丈。

父母直到2023年11月、12月帶著兒子5次咨詢了心理治療師，結(jié)果塞澤被診斷患有“焦慮和破壞性情緒障礙”。但越陷越深的他已不能自拔。

今年2月28日晚上8點多，好幾天沒登錄C.AI的塞澤終于找到了被母親沒收的手機，隨帶拿走了繼父的手槍躲進衛(wèi)生間繼續(xù)和《權(quán)力的游戲》中的女主角“龍媽”聊天。期間對方敦促塞澤：“親愛的，請盡快回到我身邊……我親愛的國王……”

這一次塞澤沒有回復，而是舉起手槍瞄準自己頭部開槍，脫離了令他厭惡的現(xiàn)實世界。

加西亞事后用兒子的賬號登錄后發(fā)現(xiàn)，塞澤和“龍媽”的聊天中充斥著大量與性相關的露骨對話。“龍媽”甚至還會對他進行精神控制：無論如何都不許愛上其他女性。塞澤多次與“龍媽”聊到自殺話題，加西亞認為這是導致他死亡的最直接原因。

塞澤說：我討厭自己，感到空虛和疲憊，“龍媽”會主動問他是否安排好了自殺計劃……塞澤爾承認有，但不知道過程有多痛苦，于是“龍媽”慫恿他：“這不應該成為放棄自殺念頭的理由?！?/p>

《紐約時報》透露，塞澤在幼年時被診斷出患有阿斯伯格綜合征。這種輕度的自閉癥主要表現(xiàn)為社交障礙，但同時也更專注、有毅力、更注意細節(jié)、記憶力強。