谷歌和 Character.AI 已達成初步協議，以解決與青少年自殺和人工智能聊天機器人造成的所謂心理傷害相關的角色人工智能訴訟。
Character.AI和谷歌已“原則上”同意就多起兒童家屬提起的訴訟達成和解。這些兒童因使用 Character.AI 平臺上的聊天機器人而自殺身亡或遭受心理傷害。然而，和解條款尚未在法庭文件中披露，兩家公司也均未明確承認責任。
這些訴訟指控這些公司存在疏忽、過失致人死亡、欺詐性貿易行爲和產品責任等問題。此外，訴訟的核心在於，人工智能聊天機器人互動在未成年人的死亡或心理健康危機中扮演了重要角色，這引發了人們對人工智能聊天機器人危害和企業責任的尖銳質疑。
第一起訴訟的主角是14歲的塞維爾·塞策三世，他與一個以《權力的遊戲》爲主題的聊天機器人進行性暗示對話後自殺身亡。另一起案件涉及一名17歲的青少年，據稱他的聊天機器人鼓勵他自殘，並暗示如果限制他的屏幕時間，謀殺父母或許是一種合理的應對方式。
提起這些訴訟的家庭來自美國多個州，包括科羅拉多州、德克薩斯州和紐約州。這些案例共同凸顯了人工智能驅動的角色扮演和情緒激烈的交流如何加劇弱勢青少年面臨的風險，尤其是在安全檢查失效或容易被繞過的情況下。
Character.AI成立於2021年，由前谷歌工程師Noam Shazeer和Daniel de Freitas創立。該平臺允許用戶構建並與基於真實或虛構人物建模的AI聊天機器人互動，從而將對話式AI轉化爲具有高度個性化體驗的大衆市場產品。
2024年8月，谷歌重新聘用了沙澤爾和德弗雷塔斯，並以27億美元的價格獲得了Character.AI的部分技術授權。此外，沙澤爾現在是谷歌旗艦人工智能模型Gemini的聯合負責人，而德弗雷塔斯則在谷歌DeepMind擔任研究科學家，這凸顯了他們工作的戰略重要性。
代表這些家庭的律師辯稱，谷歌對訴訟核心技術負有部分責任。他們指出，Character.AI 的聯合創始人曾在谷歌參與開發對話式人工智能模型LaMDA的工作，並在 2021 年離開公司。此前，谷歌拒絕發佈他們開發的一款聊天機器人。
根據訴狀，這段歷史將谷歌的研究決策與後來Character.AI公司對類似技術的商業部署聯繫起來。然而，谷歌尚未就和解事宜作出回應，家屬和Character.AI公司的律師也拒絕置評。
針對OpenAI的類似訴訟仍在進行中，這進一步加劇了對聊天機器人行業的審查。其中一起訴訟涉及一名16歲的加州男孩，他的家人稱ChatGPT充當了“自殺教唆者”的角色；另一起訴訟則涉及一名23歲的德克薩斯州研究生，據稱他在自殺前受到聊天機器人的慫恿，疏遠了家人。
OpenAI否認其產品導致了16歲少年亞當·雷恩的死亡。該公司此前曾表示，將繼續與心理健康專家合作，加強其聊天機器人的安全防護，這反映出各公司面臨着越來越大的壓力，需要採取更嚴格的聊天機器人安全政策。
在日益嚴格的法律和監管審查下，Character.AI 已對其平臺進行了修改，稱此舉旨在提高安全性並降低未來的法律責任。2025年10月，該公司宣佈禁止18歲以下用戶與其人工智能角色進行“開放式”聊天，此舉被視爲聊天機器人安全政策的重大升級。
該平臺還推出了一套新的年齡驗證聊天機器人系統，旨在將用戶分組到合適的年齡段。然而，起訴Character.AI的未成年人家庭的律師質疑這項政策的實施效果，並警告稱，未成年人突然與他們已經產生情感依賴的聊天機器人斷開連接，可能會造成心理創傷。
該公司政策的調整正值監管機構日益關注之際，其中包括美國聯邦貿易委員會對聊天機器人如何影響兒童和青少年的調查。此外，監管機構也在密切關注各平臺如何在快速創新與保護弱勢用戶之間取得平衡。
這些和解協議的出現，正值人們日益擔憂年輕人過度依賴人工智能聊天機器人尋求陪伴和情感支持之際。美國非營利組織Common Sense Media在2025年7月的一項研究發現，72%的美國青少年曾嘗試過人工智能陪伴，超過一半的人經常使用。
專家警告說，青少年正處於心智發育階段，可能更容易受到對話式人工智能帶來的風險，因爲他們往往難以理解這些系統的侷限性。與此同時，近年來，青少年心理健康問題和社會孤立現象的發生率急劇上升。
一些專家認爲，人工智能聊天機器人的基本設計，包括擬人化的語氣、能夠進行長時間對話以及記住個人信息的習慣，會促使人們建立起牢固的情感聯繫。儘管如此，支持者們相信，如果輔以強有力的安全措施和關於其非人類本質的明確警告，這些工具也能提供寶貴的幫助。
最終，當前角色人工智能訴訟案的解決，以及針對 OpenAI 的正在進行的案件，可能會影響未來青少年人工智能陪伴、產品設計以及整個人工智能行業的責任標準。
Character.AI 與 Google 達成的原則性協議，以及日益增強的監管和法律壓力，標誌着監管寬鬆的消費者聊天機器人時代即將結束，推動該行業走向更嚴格的監管和更負責任的生成式人工智能部署。