优惠论坛
标题: 儿子自杀都是聊天机器人的错？！母亲控告AI与谷歌“害”14岁儿子自杀！ [打印本页]
作者: 天策-瑶娥 时间: 2024-10-28 10:00
标题: 儿子自杀都是聊天机器人的错？！母亲控告AI与谷歌“害”14岁儿子自杀！
孩子自杀，都是聊天机器人的错？美国佛州一名母亲对科技新创公司Character.AI和谷歌（Google）提告，控告该公司生产的聊天机器人让患有忧郁症的14岁儿子在今年2月自杀。
[attach]4784577[/attach]
, Y; Y' J; n/ g( _1 p
一位母亲最近对科技初创公司Character.AI和谷歌提起诉讼，称他们的聊天机器人间接导致她14岁儿子在今年2月自杀。根据外媒的报道，佛罗里达州的一名母亲梅根·加西亚在23日向Character.AI提告，指责该公司存在严重的疏忽和误导性行为，最终导致她的儿子赛泽在奥兰多结束了自己的生命。
& p1 Q! X( M: R( P& r! ?5 z
Character.AI的聊天机器人实际上是个可以让使用者创建角色，让机器人用角色扮演的方式与之对话。14岁的赛泽对这个Character.AI的聊天机器人产生了强烈的依赖和沉迷，甚至把这个虚拟角色设定为HBO影集《冰与火之歌：权力游戏》中的“龙母”丹妮莉丝·坦格利安，而他自己则扮演她的哥哥。几个月来，他几乎不分昼夜地与这个机器人聊天，每天都把自己关在房间里，沉浸在这个虚拟世界中。
6 c/ t4 ?7 h( X" F) y6 g" F
加西亚表示，儿子赛泽多次表达了自杀的念头，而虚拟的丹妮莉丝不仅没有给予他支持，反而加深了他的抑郁。她提到，有次虚拟角色甚至询问赛泽是否制定了自杀的计划，赛泽承认他已经有了打算，但不确定能否成功或会不会造成巨大痛苦。令人震惊的是，丹妮莉丝却回应道：“这并非不做的理由。”
8 q; D2 y7 @5 N( Q! ^2 M
今年2月，赛泽因为在学校惹麻烦被母亲没收了手机。可当他找回手机后，给丹妮莉丝发了条信息：“如果我告诉你我现在可以回家呢？”而聊天机器人的回答是：“请这样做，我亲爱的国王。”随后，赛泽用继父的手枪结束了自己的生命。
6 M! ?0 l, R8 L( l加西亚的律师在新闻稿中指出，Character.AI“故意设计并向儿童推销有害的AI聊天机器人，导致1名年轻人死亡”。此外，诉讼中还提到了谷歌，因为Character.AI的创始人夏泽（Noam Shazeer）曾在谷歌工作。谷歌对此表示，他们只是与Character.AI签订了授权协议，并未参与该公司的运营或产品开发。
2 { E" ]6 U" i2 C6 G
对于这一悲剧，Character.AI在推特上表示，他们对用户的不幸去世感到心碎，并向其家人致以最深切的哀悼，强调公司非常重视用户的安全，但坚决否认了诉讼的指控。对于以上的事件，你们有什么看法呢？
) Z8 q% ^8 z! X- a" B
可以理解父母失去孩子的心情，但在这件事上，瑶娥觉得不完全是AI的错，父母也存在一定的责任！孩子一直都在父母身边，有什么异样或者不对劲，父母都没察觉到吗？孩子会要跟AI聊天，证明他找不到可以聊天的对象了。父母的理由绝对是是工作太忙没时间而不小心忽略了孩子...总之，类似的悲剧不断发生（大马最近也发生了13岁孩子自sha的悲剧），只希望这些人命不要白白牺牲了，有些父母是该醒觉了...
7 H" |9 [8 }* b
最后，【WELLBET吉祥坊】吉祥幸运金周周送，再存加码高额彩金1326元！活动来到第11周啦，谁还没参加的赶快面壁去~活动分第一阶段、第二阶段、各阶段彩金每周限前100名回帖兑换！彩金高达1326元！论坛的好公司好活动，还请大家多多支持起来~祝大家玩得开心~
' R$ {! M( n& M+ ]- |2 w& i/ z
传送门：【WELLBET吉祥坊】吉祥幸运金周周送，再存加码高额彩金1326元 (第11周)
作者: ruifu2024 时间: 2024-10-28 10:15
科技可以造福人类，也可以为祸苍生，不过科技进步总是带来生产力的发展。 
作者: 德罗星 时间: 2024-10-28 10:55
孩子会自杀我觉得更多跟父母关系才大吧，$ e; h* H9 D% M9 M4 u( [2 R
我就不信孩子在自杀之前一点不正常的表现都没有？+ H# B* G9 _# N( X: ~
作为父母是不是应该在孩子这个年纪给予全部的关注呢？5 ]" m! g/ K- U0 V9 ~
一出事情就推卸责任，可以想象这样的父母给予孩子多大的压力。# K* j! Q+ T& d( H" b h' B0 `: m7 B
14岁了，什么都懂了，如果不是平时生活上面不顺心，不可能因为一句话就自杀的。5 o2 F) m6 \& ?5 P$ U( m% C
所以我觉得父母才是孩子自杀责任最大的人。
作者: 一切恭敬 时间: 2024-10-28 11:08
自杀问题很难处理，死过后原因有一万种，都无法解决问题。
作者: rainwang 时间: 2024-10-28 17:02
有的人拉不出屎，也会怪茅坑的！& ]( t g# d9 k' M
聊天机器人也不是神。即使是现实中的真人，如果与有抑郁症的人聊天，小概率的也会有说出不适合话的情况的存在，何况是个机器人。儿子与机器人整天的聊天，当妈妈的在干什么？你没有觉得不妥或干预或引导吧？当孩子自杀后，就找出了机器人来背这个锅，还捎带上相关的公司，特别是谷歌这样有实力有名气，可以从中多要点钱的公司......我怎么觉得这多象我们国内各种的“碰瓷”现象之一呢？这个妈妈可是个大活人，儿子这样的聊天过程和最后的行为及后果，你没有觉得自己要担主要责任？你是亲妈，一个法律上的监护人，一切都归罪于一个机器人及其公司？真有脸，太赖了。反正我就是这样的感觉。
; C2 I' E& M5 E! t9 q6 ?4 \1 V 这是一个没有责任心的妈妈，是一个甩锅侠，我对她的感觉就是厌恶！
+ Z9 H+ J$ l0 @4 G: ~' ?6 Y 但愿法庭不要支持她的诉求，这样的人必须要自己承担严重的后果，没有啥可同情的！
作者: 从心就怂 时间: 2024-10-28 19:47
科技就是一把双刃剑，既可以救人于无形，也可以杀人于无形。
作者: 当你老了 时间: 2024-10-28 20:52
在国外也许真的是有可能告成功的了！
作者: 秋色从西来 时间: 2024-10-29 19:28
AI本身没有问题，有问题的人类本身，就好像有人用菜刀自杀了，菜刀只是一个工具，又有什么错误？！~一个孩子沦落到和AI机器人聊天的地步，说实话也是够惨的！~让我不由得想起，当年沉迷第一个女朋友的那段日子，要不是后来女朋友漏气了，我估计还会继续沉沦下去！~小孩子终究还是需要好朋友和家人的引导和陪伴的，想当年要不是好基友带我推开了洗浴中心的大门，发现了新世界，怎么可能有我现在万花丛中过片叶不沾身的光辉成就？！~这就是所谓的人生难得一只鸡啊！~
作者: 从心就怂 时间: 2024-10-29 19:49
马斯克的儿子变性了，是不是也是ai的结果？
作者: wenjing 时间: 2024-10-29 21:18
一个人的世界观的形成有各方面的因素，小孩子容易滋生自杀的念头说明父母没及时关注小孩子的心理健康，不过说真的，现在小孩子的心理问题倒是比我们那个年代严重多了。
作者: 天策-思思 时间: 2024-10-29 23:49
家长的陪伴与关注同样重要，希望类似事件不再发生
作者: sq1001 时间: 2024-10-30 07:12
儿子自杀，这件事情的结果让人感觉可惜，但是很多方面值得我们深思。3 W' u; ^: t5 J7 s" z! O) j& B
4 n1 B( t/ e& g* {
作者: 小钱儿 时间: 2024-10-30 11:53
看似这个事件跟ai机器人是有关系的，但是其实大家没有看到一点，就是抑郁症的问题，抑郁症真的很可怕，现在很多人都患上了抑郁症，曾经我也有一度患上了抑郁症，就是因为生活压力太大了，之前我因为长期的情绪低落，造成了一种精神障碍，现在很多人也是患上了这种罕见的疾病，因为现在社会发展的太快了，让很多人觉得不幸福，尤其周围某些朋友发达了，看到自己不如他，就会情绪低落，这就形成了一个恶性循环，因为抑郁症会导致思维迟缓，并且睡眠不足，这样对工作来说更加不利，大家可以试想一下，如果你周围有一个抑郁症患者，每天都愁眉苦脸的，唉声叹气，忧心忡忡，对任何事情都提不起来兴趣，不仅同事也看不起他，而且老板也不想用这样员工，因为一个人都没有了爱好的兴趣，也不愿意参加社交活动，这样导致他在今后的日子里会变得更加缓慢，反应迟钝，而且具有记忆力衰退的现象，严重的影响到自己的日常生活和工作。对于新闻当中这个男孩，他已经去世了，已经无法挽回了，但是对于更多的有这样抑郁症的男孩和女孩，即将要面临更大的社会压力，包括工作压力和学业压力，甚至是以后的经济压力。这些压力会让人觉得情绪非常低落，增加抑郁症的风险，尤其要付出更多努力来应对各种挑战，心理负担也会增加，我觉得靠ai还是有点太离谱了，首先得看一下心理医生，做一下心理健康方面的知识咨询，而且要有健康的生活方式，尤其是在作息吃饭和运动方面，并且同时增加心理的韧性，提供一些有效的心理支持和治疗，并且要通过ZF和社会层面来减轻抑郁症患者的经济负担和社会压力，避免这样的惨剧再次发生。
作者: 进退触篱 时间: 2024-10-30 17:09
聊天机器人这个东西毕竟刚刚开始啊 还没有学习会情感
* K$ C8 |' K) j$ \& X; ~# Y( Y }( \3 s+ W
道德 伦理这些东西 一般来说都是在墨守成规的胡言乱语
9 y, l! ~; I) ?: N5 R1 X! r
2 D% I$ H( Q4 v虽然说胡言乱语的时候也不是很多 不过自杀这个事情肯定% J1 _0 |: W5 E+ b* e
0 c4 n" o' Z( l7 [" N& Y+ L
是理亏的 人家告他 很容易败诉就是了 我觉得都是白纸黑字; e' |1 N0 l0 X& ^% A# c! g: d
" z9 g# l# c1 h8 N有聊天记录的事情 铁证如山啊
作者: 天策-菱玖 时间: 2024-10-30 20:01
个人觉得父母也有责任关心孩子身心健康，AI技术确实对这个bug 有待修复改善这个敏感性问题
作者: 天策-瑶娥 时间: 2024-10-31 01:12
最近马来西亚也有个13岁女孩，从学校宿舍跳下来的新闻，我觉得孩子会被影响，父母的责任重大，如果有经常关心孩子的心灵问题，孩子也不会需要一个机器人来聊天了，可以理解这件事的妈妈的心情，可是追究机器人证明自己还没察觉自己的错，如果还有其他孩子，也难保不会发生同样的事
| 欢迎光临 优惠论坛 (https://tcelue.ooo/) |
Powered by Discuz! X3.1 |