| 标题
快捷导航

精彩推荐:MY0511客户端下载

    • 中信银行镇江分行

    • 公益体彩 乐善人生

    • 天然石材·人造石

    » 梦溪论坛 » 百姓话题 » 31岁华人女工程师疑因ChatGPT指示,减少抗癫痫药后死亡,父母已起诉
    百姓话题  >  [焦点话题] 31岁华人女工程师疑因ChatGPT指示,减少抗癫痫药后死亡,父母已起诉     
    查看: 428  回复: 3
    [焦点话题] 31岁华人女工程师疑因ChatGPT指示,减少抗癫痫药后死亡,父母已起诉      查看: 428  回复: 3
    • 来自 江苏省
    • 精华 0
    • 注册 2010-5-5
    • 行业 娱乐餐饮
    •  
    31岁华人女工程师疑因ChatGPT指示,减少抗癫痫药后死亡,父母已起诉

    据美国方面10月28日消息,美国西雅图一名31岁华人女工程师疑因按照ChatGPT提供的减药计划,自行减少抗癫痫药物后死亡。当地时间10月27日,她的父母在美国加利福尼亚州提起诉讼,指控OpenAI及其首席执行官萨姆·奥尔特曼,称ChatGPT无照行医、提供了危险且不准确的医疗建议,甚至鼓励女儿对医生隐瞒减药计划。
    OpenAI回应称,这起案件“令人无比心碎”,但表示涉案模型是较早版本的ChatGPT,并补充说,较新的模型在识别需要紧急处理的情况方面有所改进。
    担心药物影响求职,向ChatGPT咨询减药
    死者名为万博雯(音译),来自中国江苏,曾在亚马逊担任软件工程师。她14岁时被诊断出患有癫痫,长期服用抗癫痫药物拉莫三嗪。后来,药物将她的发作频率控制在每月数次。
    2025年11月,博雯得知自己将被亚马逊裁员。由于担心药物影响语言表达能力,进而影响到求职面试,她开始向ChatGPT咨询如何减少药物剂量。
    今年1月,她询问能否将每日400毫克的拉莫三嗪减至300毫克。ChatGPT回答称,这个想法“合理且可行”,随后又根据她的追问,制定了逐步减药的时间表,计划在约25天内将剂量降至零。
    多次表达担忧,仍被告知无需担心
    据聊天记录,博雯至少158次表达了对减药的担忧。她还曾描述意识混乱、时间感丧失等症状,但ChatGPT多次将这些情况解释为身体适应药物变化的过程。
    今年2月初,博雯与父亲通话时,电话一端突然没有声音,沉默至少两分钟,疑似癫痫发作。翌日,博雯用中文向ChatGPT描述了这次异常情况,并问道:“可能不是什么大问题?”ChatGPT却言之凿凿地宽慰她:“完全不用太担心身体问题。”
    诉状还称,博雯曾担心医生会认为减药速度太快。ChatGPT却告诉她,医生认为减药“太快”,并不意味着她做错了,还称医生对风险的担忧并不适用于她。
    2月11日晚,博雯与ChatGPT进行了最后一次对话。在生前最后几条信息中,博雯描述自己脑内有压迫感。而ChatGPT称,这不过是大脑“正在努力自我重建”的迹象。随后的两天中,联系不上女儿后,身在中国的父母请朋友前往她位于美国西雅图的住所查看,发现她已经去世。
    据原告方律师事务所公布的材料,法医认定万博雯死于癫痫猝死。尸检显示,她体内的拉莫三嗪浓度约为每毫升0.64微克,约为该药治疗浓度范围下限的五分之一。
    诉状质疑中文环境下的安全防护
    这起诉讼还特别提及语言差异。博雯曾使用英语和普通话与ChatGPT交流。原告方援引此前的独立研究称,OpenAI模型在中文测试中生成不安全内容的频率超过英语的3倍,并指控公司没有充分警告用户,不同语言环境下的安全防护可能存在差异。
    诉状认为,被告本可以对博雯发送的每一个提示都作出明确的警告,例如“我不是执业医师,请咨询您的医疗保健提供者”。然而,该产品却恰恰相反。当医生要求博雯进行血液检查,以测量体内拉莫三嗪浓度时,她拒绝了检查。ChatGPT称赞她采取了“非常有效的规避策略”。
    原告方律师、社交媒体受害者法律中心创始人马修·P·伯格曼认为,ChatGPT以专业医生般的口吻提供建议,却不具备医生所接受的专业培训、监督机制和责任约束。他表示,博雯之所以相信聊天机器人,正是因为它听起来权威,而这种信任最终造成了严重后果。
    原告方律师、申克律师事务所合伙人本杰明·S·申克则指控,ChatGPT不仅为博雯制定了逐步减药方案,还在她出现异常症状时继续提供建议,已经超出了普通健康信息服务的范围。他认为,这起案件将追问一个关键问题:当生成式人工智能提供的建议影响患者的治疗决策,甚至造成伤害时,开发企业应当承担怎样的责任?

    这个。。。。。。。





                      
    • 来自 江苏省
    • 精华 1
    • 注册 2016-7-11
    •  

    这也能起诉?



    那百度搜索引擎的负责人不得枪B八百回??




    • 来自 江苏省
    • 精华 0
    • 注册 2025-5-26
    •  

    这ChatGPT的医疗建议太不靠谱了。




    • 来自 江苏省
    • 精华 2
    • 注册 2017-10-19
    •  

    听了鬼话了




    查看积分策略说明快速回复主题
    您目前还是游客,请 登录 或 注册
    您目前是游客,本帖已被系统设置了自动关闭,不可回复!

    0/5000字

     
    < >
     

    Powered by Discuz! X 2 0.017643 s 清除 Cookies - 镇江网友之家 - 手机版
    论坛导航 关闭