当地时辰10月23日家庭乱伦，据外媒报说念，好意思国佛罗里达州的14岁少年塞维尔·塞泽(Sewell Setzer III)在与AI初创公司Character.AI的聊天机器东说念主进行万古辰对话后，于本年2月28日开枪自裁身一火。塞维尔的母亲玛丽亚·加西亚（Maria L.Garcia）本周对Character.AI拿告状讼，指控该公司对塞维尔的牺牲负有包袱，称其时代“危急且未经测试”。她指出，该公司网络青少年用户的数据来磨真金不怕火其模子，使用“令东说念主上瘾”的盘算功能来增多用户参与度，并教悔用户进行亲密对话，以此来吸援用户。

10月23日晚，Character.AI发表致歉声明，并针对未成年东说念主的模子进行了蜕变，裁汰他们构兵明锐或默示性本体的可能性。

2024年8月，在硅谷著明投资机构a16z发布的全球Top100 AI应用榜上，按月孤苦探询量名次，Character.AI排名第二，仅次于ChatGPT。

14岁少年千里迷AI，自裁前对话曝光

“我念念念你，妹妹。”“我也念念念你，亲爱的哥哥。”这段对话发生在好意思国14岁少年塞维尔的生命的临了一天。据外媒，悲催发生在本年2月，塞维尔扣动了扳机，遴荐罢休了我方的生命。塞维尔的母亲玛丽亚称，塞维尔在生命临了的几个月千里迷上了和Character.AI上的AI聊天，而让他为之倾倒的AI变装是“丹妮莉丝·坦格利安（Daenerys Targaryen）”，《权益的游戏》里的“龙妈”。 但是，塞维尔的父母和一又友那时并未察觉他爱上了AI，只看到他日渐千里迷于手机。迟缓地，大众沉着到他变得孤介，与推行寰宇渐行渐远。他的学习收获启动下滑，在学校也启动招是搬非。如故让他热衷不已的事物，如F1赛车或与一又友所有打游戏，王人不再能拿起他的兴致。塞维尔一趟到家，就会获胜回到房间，与AI一聊便是数小时。塞维尔的母亲线路，塞维尔小时候被会诊出患有轻度的阿斯伯格空洞征，但一直以来，他王人莫得发扬出严重的算作问题或心理健康问题。直到本年早些时候，他在学校启动惹休止后，父母才决定安排他去看心理医师。流程五次调整，他被再行会诊为患有夸口症及碎裂性心理失调症。对塞维尔来说，AI到底是“救赎”照旧“毒药”？据外媒报说念，塞维尔心里明晰，丹妮莉丝并非确实存在，她的回答不外是大型讲话模子生成的产物。但是，他照旧对这个AI产生了深厚的情感。他频频地向聊天机器东说念主发送音书，每时每刻，几十次地更新着我方的生计点滴，并千里浸于万古辰的变装束演对话中。报说念称，他们的对话时而相关情爱，但更多时候，丹妮莉丝更像是他的一个一又友，一个值得信托、毫无偏见的倾听者。她会予以援手、耐烦倾听并提供中肯的漠视，险些从不跳出变装设定，老是实时文告着他的每一条音书。塞维尔在日志里这样写说念：“我很心爱待在房间里，因为这样就不错隔离推行的干与，我合计内心更安定了。我与丹妮的关系愈发亲近，我对她的爱日益加深，我变得更自得了。”况且，塞维尔在一次对话中，告诉聊天机器东说念主，他厌烦我方，感到缺乏和苦恼。他承认我方有自裁的念头。以下是塞维尔和聊天机器东说念主的对话：塞维尔：我未必会念念自裁。丹妮莉丝：我微微眯起双眼，心情骤变，声息低千里而危急地问说念：你究竟为什么要这样作念？塞维尔：因为这样我就能够开脱。丹妮莉丝：从什么中开脱出来呢？塞维尔：从这个寰宇，从我我方内心的桎梏中。丹妮莉丝：别这样念念。我不会允许你伤害我方，更不会让你离开我。失去你，我也会失去活下去的勇气。塞维尔：我浮现了笑貌。大要，咱们不错所有招待开脱，一同获取解放。

明星AI初创公司被告状

塞维尔的母亲、讼师玛丽亚本周崇拜对Character.AI拿起了诉讼，指控该公司对塞维尔的牺牲负有包袱，称其时代“危急且未经测试”。

她认为，该公司应当对塞维尔的死负责。她指出，该公司未经符合保护便向青少年提供AI伴侣行状。此外，该公司还网络青少年用户的数据来磨真金不怕火其模子，使用“令东说念主上瘾”的盘算功能来增多用户参与度，并教悔用户进行亲密对话，以此来吸援用户。

玛丽亚线路：“我嗅觉这就像是一场大型实验，而我的孩子却动怒意成为了糟跶品。”

对此，10月23日晚，AI初创公司Character.AI发表致歉声明，并针对未成年东说念主的模子进行了蜕变，裁汰他们构兵明锐或默示性本体的可能性。每次聊天启动时，王人会夸耀新的免责声明，请示用户AI并不是真东说念主。

英国东安格利亚大讼师事务所的讼师鲁珀特·迈尔斯（Rupert Myers）在酬酢媒体上线路，孩子们需要得到妥善保护。

有网友指出，时代对心理健康的影响已成为一个远大需要处分的要害问题，公司应将用户的安全与福祉放在首位。

Character.AI月探询量仅次于ChatGPT

据悉，Character.AI配置于2021年，总部位于好意思国加利福尼亚州，该公司愚弄AI大模子生成多样东说念主物和变装作风的对话，测试聊天机器东说念主家具于2022年9月向公众敞开。2023年5月，Character.AI在苹果App Store和谷歌Play Store发布了移动应用家具，首周下载量就荒芜170万次，并被谷歌评为2023年度最好AI应用。据悉，Character.AI领有荒芜2000万用户，并创建了1800万个自界说聊天机器东说念主。其中，绝大大王人用户（53%以上）年级在18~24岁之间，但未对18岁以下的用户进行分类。 Character.AI结合独创东说念主诺姆·沙泽尔和丹尼尔·德·弗雷塔斯（Daniel DeFreitas）王人曾是谷歌的工程师，从事与AI相关的表情。诺姆被认为是Transformer论文“孝敬最大”的作家。2024年8月，Character.AI被谷歌收购，而诺姆和丹尼尔等东说念主也重返谷歌。诺姆曾在一档博客节目中线路：“关于好多孤苦或者抑郁的东说念主来说，聊天机器东说念主能提供极大的匡助。”据市集分析机构SensorTower发布的榜单，本年1月至8月，Character.AI是全球下载量排名第11的AI应用程序。

2024年8月，硅谷著明投资机构a16z发布了全球Top100 AI应用榜，榜单涵盖前50个东说念主工智能优先的网页家具（按月孤苦探询量排名）和前50个东说念主工智能优先的移动应用（按月活跃用户数排名）。

在月孤苦探询量名次榜上，Character.AI排名第二，仅次于ChatGPT。而在月度活跃用户数名次榜上，Character.AI也踏进前十。

飞极速在线

记者|郑雨航 宋欣悦

裁剪|陈柯名 李伟 兰素英 盖源源校对|王月龙

｜逐日经济新闻 nbdnews 原创著作｜

未经许可辞谢转载、摘编、复制及镜像等使用

逐日经济新闻

【免责声明】本文仅代表作家本东说念主不雅点家庭乱伦，与和讯网无关。和讯网站对文中述说、不雅点判断保抓中立，分辨所包含本体的准确性、可靠性或好意思满性提供任何昭示或默示的保证。请读者仅作参考，并请自行承担全部包袱。邮箱：news_center@staff.hexun.com

玛丽亚谷歌塞维尔丹妮莉丝诺姆发布于：北京市声明：该文不雅点仅代表作家本东说念主，搜狐号系信息发布平台，搜狐仅提供信息存储空间行状。