点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI机器人会考试,不会看病
首页> 科技频道> 综合新闻 > 正文

AI机器人会考试,不会看病

来源:中国科学报2025-01-07 09:57

  一项新研究发现,虽然先进的人工智能(AI)模型在专业医学考试中得分很高,但在通过与患者交谈从而诊断疾病方面仍然不及格。1月2日,相关研究成果发表于《自然-医学》。

  美国哈佛大学的Pranav Rajpurkar说:“虽然大型语言模型在测试中的表现令人印象深刻,但在动态对话中,它们的准确性明显下降,尤其是难以进行开放式诊断推理。”

  研究人员开发出一种方法,基于模拟医患对话评估“临床AI”模型的推理能力。这些“患者”基于2000个医疗案例。这些案例主要来自美国医学委员会的专业考试。

  同样来自哈佛大学的Shreya Johri说:“模拟医患互动可以评估病史采集技能,这是临床实践的一个关键组成部分。”她表示,新的评估基准被称为CRAFT-MD,“反映了现实生活中的情况,即患者可能不知道哪些细节是至关重要的,只有在回答特定问题时才会披露重要信息”。

  CRAFT-MD基准本身依赖于AI。美国OpenAI公司的GPT-4模型在与被测试的“临床AI”的对话中扮演了“患者AI”的角色。GPT-4还通过将“临床AI”的诊断结果与每个病例的正确答案进行比较来评分。人类医学专家对这些评估进行了复核。他们还审查了对话,以检查“患者AI”的准确性,并查看“临床AI”是否成功收集了相关的医疗信息。

  多项实验表明,4种领先的大型语言模型——OpenAI的GPT-3.5和GPT-4、美国Meta公司的Llama-2-7b和法国Mistral AI公司的Mistral-v2-7b,在基于对话的基准测试中的表现远不如根据书面摘要进行诊断时的表现。

  例如,当提供结构化的病例摘要并允许从多项答案中作出选择时,GPT-4的诊断准确率高达82%,而没有多项选择时,其诊断准确率则降至49%以下。然而,当它不得不通过与模拟的患者对话进行诊断时,准确率降至26%。

  在这项研究中,通常GPT-4是表现最好的模型,GPT-3.5次之,Mistral-v2-7b排在第三位,Llama-2-7b得分最低。

  AI模型在大多数情况下未能收集完整的病史,比如GPT-4仅在71%的模拟患者对话中做到了这一点。即使AI模型收集了患者的相关病史,它们也并不总是能够作出正确的诊断。

  美国斯克利普斯研究转化研究所的Eric Topol表示,模拟患者对话代表了一种比医学考试“更有用”的评估AI临床推理能力的方法。

  Rajpurkar说,即使一个AI模型最终通过了这一基准,能够根据模拟的患者对话持续作出准确诊断,也并不一定意味着它就优于人类医生。他指出,现实世界中的医疗实践比模拟的“更混乱”,涉及管理多名患者、与医疗团队协调、进行身体检查,以及了解当地医疗情况中“复杂的社会和系统因素”。“AI是支持临床工作的强大工具,但不一定能取代经验丰富的医生的整体判断。”Rajpurkar说。 (文乐乐)

  相关论文信息:

  https://doi.org/10.1038/s41591-024-03328-5

  《中国科学报》 (2025-01-07 第2版 国际)

[ 责编:李欣哲 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平会见新加坡总理黄循财

  • 习近平会见澳大利亚总理阿尔巴尼斯

独家策划

推荐阅读
在这一亚太盛会上,中国“十五五”规划被视作“中国面向全球工商界发出的合作邀约”。这份时代邀约,中国企业正在从“开放、创新、合作”三个维度作答,为变乱交织的世界注入前行力量。
2026-11-20 09:46
国家能源局19日发布的《中国虚拟电厂发展报告(2026)》显示,我国虚拟电厂规模快速增长。截至2026年6月底,全国已建成并投运的虚拟电厂数量为592个,同比增长78.9%;最大调节能力达到2042.8万千瓦,同比增长62.7%。
2026-11-20 05:35
2026中国5G+工业互联网大会19日在湖北省武汉市开幕。记者从会上获悉,我国工业互联网体系化发展成效显著,走在全球前列。
2026-11-20 05:35
今年是二十四节气申遗成功10周年——2016年11月,在联合国教科文组织保护非物质文化遗产政府间委员会第十一届常会上,“二十四节气——中国人通过观察太阳周年运动而形成的时间知识体系及其实践”被列入人类非物质文化遗产代表作名录。
2026-11-20 05:35
近日,内蒙古鄂尔多斯伊金霍洛旗国有林场与数百公里外的锡林浩特巴彦宝拉格苏木人民政府完成了一宗22吨的林业碳票交易。
2026-11-20 05:35
前不久,山东科技大学安全与环境工程学院教授刘华清团队研发的“控释型硫基滤料新技术”成功实现转化,为一家环保公司解了燃眉之急。
2026-11-19 05:10
日前,第140届中国进出口商品交易会(以下简称“广交会”)闭幕,共吸引来自219个国家和地区的35.2万名境外采购商到会,到会人数再创历史新高。
2026-11-19 05:25
国务院学位委员会办公室近日印发《关于做好专业学位研究生以实践成果申请学位工作的意见》,在前期工程硕博士用实践成果申请学位基础上,推动5个专业学位类别试点先行。
2026-11-19 05:25
在今年西班牙巴塞罗那市议会推出的第五期“创新出行实验室(BILM)”挑战赛上,谁能拿出基于人工智能调控交通信号灯的最佳方案就赢得10万欧元,奖金用于在巴塞罗那路口开展实地测试。
2026-11-19 05:25
地磁场像一张看不见的导航网。趋磁细菌是里面的“活罗盘”:它们身体里能长出一串纳米级小磁铁,顺着地磁场方向游动,在氧气不多不少的水层里找位置。
2026-11-19 05:25
习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上指出:“人类不得不直面时代之问:当机器开始思考,人类如何与之相处?当算法参与决策,安全如何保障?当技术挑战伦理,治理如何跟上?当鸿沟不断拉大,普惠如何实现?
2026-11-19 05:10
据中国载人航天工程办公室消息,17日,神舟二十四号载人飞船与长征二号F遥二十四运载火箭组合体已转运至发射区,计划近日择机实施发射。
2026-11-18 05:10
工业和信息化部、市场监管总局近日联合印发《以标准提升引领轻工业优化升级实施方案》。
2026-11-18 05:25
日前,国家知识产权局印发《地理标志保护和运用“十五五”规划》,明确了“十五五”时期地理标志工作的目标指标、重点任务和专项工程。
2026-11-18 05:10
11月17日,《关于深入推进再生资源回收体系建设 促进回收行业高质量发展的意见》公开发布。意见明确,到2030年初步建立起回收网络健全完善、居民交投便捷顺畅、分拣环节高效先进、末端处理绿色规范的再生资源回收体系。
2026-11-18 05:10
目前我国输送距离最长、管径最大、设计压力最高、输送规模最大的二氧化碳长输管道——中国石油吉林石化—吉林油田二氧化碳管道工程16日建成投运,标志着我国二氧化碳规模化输送和利用取得新进展。
2026-11-18 05:25
要让一台机器人真正能干活,到底靠什么?答案是,看得见、想得出、做得到。
2026-11-17 09:33
芯片越强、集群越大、部署越密,出故障的概率和代价也在同步飙升。
2026-11-17 09:29
胜利油田济阳页岩油民丰8号台新型井工厂首批12口井平均钻井周期13.83天,其中丰页1-8-B13HF井钻井周期11.68天,刷新国内超6000米井深陆相页岩油最短钻井周期纪录。
2026-11-17 05:15
红线划得清楚,但现实难题也依然存在:当作业能让AI助写,心事能向AI倾诉,孩子还会不会自己动脑、还愿不愿意跟真人打交道?如何帮助孩子减少依赖,合理使用AI?AI时代的青少年身心健康该如何守护?记者多方采访求解。
2026-11-17 05:15
加载更多