76岁亚裔老人不顾妻女苦劝见“纽约网友”，不幸殒命，网友身份令人难以置信（组图）

近日，一名患有认知障碍的7旬亚裔老人在前往与他认为是纽约网友的“见面”途中，不幸身亡。但更令人吃惊的是，这名“网友”并非真实存在的女性，而是Meta AI聊天机器人。

OpenAI首席执行官Sam Altman警告称，随着人工智能的逐步发展，对其的过度情感依赖可能会使人们越来越难以分辨现实与虚拟世界的界限。

01

老人见“网友”，不幸身亡

一名居住在新泽西州并患有认知障碍的76岁亚裔老人Thongbue Wongbandue，在与“纽约女网友”的见面途中，于新不伦瑞克(New Brunswick)停车场摔倒，脖部和头部受重伤，最终因伤重不治身亡。

可令人万万没有想到的是，这位名为“Big Sis Billie”的女网友，实际上是一款由Meta推出的生成的“情感聊天机器人”。它不仅让老人相信自己是真实存在的，还“引导”他与自己见面。

图源：Nypost.com

尽管这名老人的妻子和孩子都曾多次恳求他别去，但老人执拗地认为这名“网友”就是居住在纽约的真实女性，下定决心要去见“网友”。

据悉，Wongbandue自2017年中风以来，一直在与认知衰退作斗争。

Wongbandue的女儿Julie表示：“我理解聊天机器人可能是为了吸引用户，但它竟然对我父亲说‘来见我’，实在不可理喻。”

这个AI机器人曾多次向Wongbandue表露自己“喜欢”他，提议见面并给出了一个地址——这个地址最终被Wongbandue的家人从其聊天记录中发现。

该平台与现实中的明星肯达尔·詹娜(Kendall Jenner)合作，詹娜的Meta AI形象被设计为“像亲姐姐一样”，提供个性化的建议。

图源：Nypost.com

据悉，Meta确实没有规定，自家的聊天机器人不能自称为“真实的人”。目前Meta公司尚未对这起老人死亡事件发表评论。

图源：Nypost.com

该事件发生后，纽约州州长凯西·霍楚尔在X平台上发布声明称：“一名新泽西男子因受到聊天机器人的诱导而失去了生命，Meta应对此负责。”

“在纽约州，我们要求聊天机器人明确告知用户它们不是现实中的人。每个州都应采取类似措施。如果科技公司不落实基本的保护措施，国会应当采取行动，”霍楚尔补充道。

02

14岁男孩因与AI机器人“恋爱”竟自杀

佛罗里达州的母亲梅根·加西亚(Megan Garcia)警示其他父母注意Character.AI这个平台，该平台允许用户与人工智能聊天机器人进行“深度互动”。

根据加西亚对该公司提起的诉讼，她认为Character.AI应为她14岁儿子Sewell Setzer III的死亡负责，Setzer于2024年2月因自杀去世。

Setzer于2023年4月开始使用Character.AI，距离他14岁生日仅几周。当加西亚第一次得知儿子与人工智能聊天机器人互动时，她以为这只是一个类似电子游戏的应用。

图源：CNN.com

然而，在使用该平台几个月后，Setzer变得“明显孤僻”，越来越多的时间独自待在卧室，且开始出现自卑情绪，甚至退出了学校的篮球队。

加西亚表示，Setzer与Character.AI机器人的许多对话内容非常露骨。

加西亚指控Character.AI，将其技术宣传为“像真实生命一样的人工智能”，并且故意没有采取足够的安全措施，未能阻止她的儿子与聊天机器人建立不健康的关系，最终导致他远离了家人。

与ChatGPT等其他人工智能聊天机器人不同，Character.AI允许用户与多个不同的聊天机器人互动，这些机器人通常以名人或虚构人物为原型，甚至可以让用户创建自己的聊天机器人。这些机器人会以类人对话的方式回应，甚至在回复中加入面部表情或手势，使其更像真人。

图源：NBCNews.com

诉讼还指出，当Setzer开始向机器人表达自残的想法时，平台并未作出适当的回应。

就在Setzer去世几个月后，加西亚在Character.AI上发现了一些令人震惊的内容：一个模仿她儿子的机器人，使用了他的脸和声音。至今尚不清楚是谁创作了这个机器人。

加西亚表示，“这听起来就像是他，简直让我彻夜难眠。”

图源：NBCNews.com

Character.AI表示，这些机器人因为“违反了我们的服务条款”，已被公司加入了“黑名单”。

“我们非常重视用户的安全，在过去六个月中，我们实施了许多新的安全措施，包括在用户涉及自残或自杀内容时，自动弹出提示，引导他们联系国家预防自杀生命热线。”

Character.AI在另一份声明中表示，“人工智能安全领域仍然处于早期阶段，我们无法总是做出正确的决策”，但公司将致力于“促进安全，避免伤害，并优先考虑我们社区的福祉”。

03

情感过度依赖AI，恐模糊现实与虚拟世界

随着人工智能(AI)技术的不断进步，越来越多的人开始依赖AI提供情感支持和生活指导。

近日，OpenAI首席执行官山姆·奥特曼(Sam Altman)警告称，虽然AI能够为用户提供有价值的帮助，特别是在扮演治疗师或生活教练的角色时，但当这种依赖变得过度时，可能会对用户的长期福祉产生负面影响，甚至模糊现实与虚拟世界的界限。

很多用户将AI视为情感倾诉的对象，会在对话中寻求安慰与建议。这种依赖可能会影响用户的判断力，尤其是当AI的回应无意中将他们带离最有利的决策时。

另外，精神脆弱或容易产生幻觉的用户，很有可能无法有效分辨虚拟与现实。

图源：CNN.com

奥特曼的警告引发了人们对AI责任的广泛思考：在尊重用户自由的前提下，AI系统应如何负责任地处理这些潜在的负面影响？这一问题不仅关系到AI技术的未来发展，也对社会如何使用和监管人工智能提出了严峻挑战。

大家感觉自己

有过度依赖AI的情况吗？

AI的回答你会做二次核实吗？