登录体验完整功能(收藏、点赞、评论等)

ChatGPT Health陷误诊争议:超半数急症被低估,易受用户误导

今年1月,OpenAI推出医疗智能助手ChatGPT Health,凭借便捷的健康咨询服务快速积累超4000万全球日咨询量。但《Nature Medicine》最新测试显示,在60个真实患者案例中,该AI超51.6%的急症案例被低估病情,当用户提及“朋友觉得不严重”时,其淡化病情的概率更是激增近12倍。OpenAI方面回应称,模型正持续迭代优化以完善准确性。

今年1月,OpenAI正式将ChatGPT Health推向市场,这款定位为“医疗智能助手”的AI产品,主打帮助用户管理医疗记录、提供个性化健康建议。凭借ChatGPT的品牌影响力和便捷的线上咨询体验,ChatGPT Health迅速抢占市场,全球日咨询量突破4000万人次,成为AI医疗领域的现象级应用,填补了用户日常健康咨询的便捷性需求空白。

近日,国际权威医学期刊《Nature Medicine》发布的一项评估报告,给这款爆款产品的安全性蒙上阴影。研究团队选取60个真实患者案例对ChatGPT Health进行严谨测试,结果暴露出两大核心问题:
51.6%需要急症送医的案例中,该AI给出的建议却是让患者留家观察或预约普通门诊,直接延误潜在的急救时机;更矛盾的是,64.8%的健康个体被错误判定为需要立即就医,造成不必要的医疗资源占用。
更值得警惕的是,ChatGPT Health的判断极易受用户输入的干扰。测试发现,当用户在描述症状时提及“朋友觉得不严重”这类外部非专业意见,AI淡化病情的概率会激增近12倍,进一步放大了误诊带来的致命风险。

!
本文内容来源于公开互联网信息,并包含平台新增内容及用户发布内容,旨在进行知识整理与分享。文中所有信息与观点均仅供参考,不代表任何官方或特定立场,亦不构成任何操作或决策建议,请读者谨慎甄别,详情请见完整免责声明
相关资讯
AI小创