巨屌 自慰 千里醉聊天机器东说念主的青少年死一火后 Character.AI和Google遭到告状
巨屌 自慰
正如诉讼中所述，14 岁的塞泽尔三世（Sewell Setzer III）从客岁运应用用 Character.AI，与以《权利的游戏》（The Game of Thrones）中东说念主物为模子的聊天机器东说念主进行互动，其中包括丹妮莉丝-坦格利安（Daenerys Targaryen）。 塞策在死前几个月不休与机器东说念主聊天，于 2024 年 2 月 28 日寻短见身一火，这是他与机器东说念主临了一次互动后的"几秒钟"。
这些数落包括该网站将东说念主工智能变装"拟东说念主化"，以及该平台的聊天机器东说念主提供"无证形势诊疗"。 Character.AI领有以形势健康为主题的聊天机器东说念主，如"诊疗师"和"你感到零丁吗"，Setzer与之进行了互动。
加西亚的讼师援用了沙泽尔在一次采访中说的话，他和德弗莱塔斯离开Google创办我方的公司，因为"大公司的品牌风险太大，不能能推出任何意旨真理意旨真理的东西" 而且他想"最大适度地加快"这项工夫。 报说念称，在公司决定不推出他们创建的 Meena LLM 后，他们就离开了。 Google在八月份收购了Character.AI的率领团队。
Character.AI 的网站和出动应用设施领少见百个定制的东说念主工智能聊天机器东说念主，其中好多皆以电视节目、电影和视频游戏中的流行变装为模子。 几个月前，The Verge撰文报说念了包括青少年在内的数百万年青东说念主与可能假装成哈里-斯泰尔斯（Harry Styles）或诊疗师的机器东说念主进行互动的情况。 Wired 最近的另一篇报说念 强调了Character.AI 的定制聊天机器东说念主在未经真东说念主甘愿的情况下冒充真东说念主的问题，其中一个机器东说念主冒充的是别称在 2006 年被谋杀的青少年。
由于像 Character.ai 这么的聊天机器东说念主生成输出的形态取决于用户输入的执行，因此它们堕入了对于用户生成执行和包袱的毒手问题的不能想议的谷底，迄今为止还莫得明确的谜底。
Character.AI现已秘书对该平台进行多项转念，公关领路东说念主切尔西-哈里森（Chelsea Harrison）在给The Verge的一封电子邮件中走漏："咱们对一位用户的厄运牺牲感到愁肠，并向其家东说念主走漏最深入的慰问。
部分变更包括：
福利姬 自慰对针对未成年东说念主（18 岁以下）的模子进行了鼎新，旨在缩短遭遇明锐或示意性执行的可能性。
校正了对违犯要求或社区指南的用户输入的检测、反馈和纷扰；
修改每次聊天的免责声明，提示用户东说念主工智能并非真东说念主。
当用户在平台上进行了一个小时的会话，何况正在进行罕见的用户纯真性操作时，会发出示知。
Harrison 说："动作一家公司巨屌 自慰，咱们畸形疼爱用户的安全，咱们的信任与安全团队在畴前六个月中膨胀了好多新的安全活动，包括通过自残或寻短见意念等词语触发弹出式窗口，换取用户拨打国度寻短见谢绝人命热线（National Suicide Prevention Lifeline）。"