AI不能替代医生直接进行诊疗决策

5个月前 来源:科技日报 观看:74

近日,湖南省医保局发布的通知中提到的“严禁使用人工智能等自动生成处方”引发热议,人工智能“幻觉”也被自媒体轮番报道,AI医疗看上去似乎“不太靠谱”。adf即热新闻——关注每天科技社会生活新变化gihot.com

同时,人工智能辅助医生诊疗时能够引用出最新指南,并标注多篇参考文献中的关键内容,正成为越来越被倚重的“全知型”帮手。adf即热新闻——关注每天科技社会生活新变化gihot.com

那么,人工智能参与照护百姓健康后,该如何划定效率与责任的边界?医疗领域在对人工智能高效便利等优点善加利用的同时,怎样才能避开风险?adf即热新闻——关注每天科技社会生活新变化gihot.com

处方应由接诊医师本人开具adf即热新闻——关注每天科技社会生活新变化gihot.com

“目前人工智能在临床诊疗中,比较被接受的作用是临床决策支持和辅助。”广东医科大学多模态数据融合应用实验室(GMCLab)主任弓孟春告诉科技日报记者,医嘱开立作为诊疗行为的关键步骤,目前的确不允许也不应该由人工智能直接进行处方开立。adf即热新闻——关注每天科技社会生活新变化gihot.com

上海市眼病防治中心主任医师朱剑锋也向科技日报记者表示,线上问诊可以用AI来辅助,但诊断和开具处方是不允许的。adf即热新闻——关注每天科技社会生活新变化gihot.com

2021年,国家卫生健康委发布的《公立医院高质量发展促进行动(2021—2025年)》中也明确,鼓励有条件的公立医院加快应用智能可穿戴设备、人工智能辅助诊断和治疗系统等智慧服务软硬件,提高医疗服务的智慧化、个性化水平。adf即热新闻——关注每天科技社会生活新变化gihot.com

“对于人工智能的核心约束,是它不能替代医生直接进行诊疗决策。”弓孟春解释,通俗地说,AI是提建议的,医生是做决策的,听不听由医生决定。人工智能软件目前能提供用药禁忌、剂量换算、注意事项提醒等辅助功能。adf即热新闻——关注每天科技社会生活新变化gihot.com

“使用人工智能自动处方的情况,一般不会发生在实体医院内。”弓孟春解释,实体医院的诊疗流程有着严格的质控和监管,不太可能出现机器替代人开医嘱的情况。互联网医院等医疗主体的诊疗环节在院外,较难监管。adf即热新闻——关注每天科技社会生活新变化gihot.com

记者查阅湖南省医保局发布的《关于进一步加强基本医疗保障定点零售药店管理的通知》文件后发现,“严禁使用人工智能等自动生成处方”的提法在“规范互联网医保定点医院处方行为”的条款中,条款同时要求互联网医院要与患者或患者家属进行有效、充分的沟通问诊。adf即热新闻——关注每天科技社会生活新变化gihot.com

对于互联网诊疗,国家卫生健康委在2022年发布的《互联网诊疗监管细则(试行)》中对接诊、开方流程均进行了明确规定:其他人员、人工智能软件等不得冒用、替代医师本人提供诊疗服务;处方应由接诊医师本人开具,严禁使用人工智能等自动生成处方。adf即热新闻——关注每天科技社会生活新变化gihot.com

对AI给出的新论断要充分研判adf即热新闻——关注每天科技社会生活新变化gihot.com

有观点认为,由于人工智能“幻觉”是天生的,会杜撰药品名称、治疗方法等,其用于医疗可能“闯下大祸”,加之Open AI(开放式人工智能)之前在美国应用时也出现过“幻觉”问题,这些都令人很忐忑。adf即热新闻——关注每天科技社会生活新变化gihot.com

那么,能不能消除大模型自主产生的、看似逻辑严密却又毫无依据的“幻觉”呢?医疗和人工智能领域在联合研发过程中,从未回避这一问题。adf即热新闻——关注每天科技社会生活新变化gihot.com

不久前,北京协和医院与中国科学院自动化研究所共同研发的“协和·太初”罕见病人工智能大模型正式进入临床应用阶段。科研团队将能有效抑制人工智能“幻觉”作为其三大核心优势之一。相关报道显示,传统的人工智能模型常因数据噪声或知识盲区产生“幻觉”,易导致错误推断。“协和·太初”通过整合权威数据、动态更新知识、增加溯源机制等方式,有效抑制模型出现“幻觉”,增强了临床决策可信度。adf即热新闻——关注每天科技社会生活新变化gihot.com

“抑制‘幻觉’,目前主要通过本地化的高质量数据集(如真实的诊疗记录等)和大量经人工验证的知识库(如临床诊疗指南、教材及公开可及的科学文献等)进行模型微调。”弓孟春解释,“通过提示词工程等技术在推理过程中施加有效的证据佐证、溯源核查、判据验证等,并不断反馈与修正。”可以理解为,让AI只学“好知识”,并限制推理“边界”,也可增加“溯源”机制,在临床应用前不断修正“教育”。adf即热新闻——关注每天科技社会生活新变化gihot.com

相关专业机构发布的DeepSeek(深度求索)在国内三甲医院部署的统计显示,包括复旦大学附属华山医院、瑞金医院、深圳市人民医院等在内的多个医院开启了与国内顶尖人工智能企业的联合研发,通过跨领域的融合和对接,加速推进医疗智能化,解决“卡脖子”问题。业内认为,利用DeepSeek独特的“分层次知识蒸馏”技术,可使医疗复杂场景中的推理计算量降低30%。adf即热新闻——关注每天科技社会生活新变化gihot.com

“国内外大量基于多模态临床数据进行的研究证实,人工智能技术所提供的临床洞察意见可能会超越医生所能掌握的知识极限和物理感觉极限,为临床决策提供重要的辅助意见。”弓孟春说,对于AI给出的新证据、新论断要持“审慎验证、充分研判”的态度,建设多模态临床数据基础设施,梳理高质量的队列,对各类数据驱动的医学新发现进行验证。以多学科诊疗(MDT)的形式将AI提供的临床证据融入诊疗环节为患者服务,是全球医疗科研领域的主流发展趋势之一。adf即热新闻——关注每天科技社会生活新变化gihot.com

近日,湖南省医保局发布的通知中提到的“严禁使用人工智能等自动生成处方”引发热议,人工智能“幻觉”也被自媒体轮番报道,AI医疗看上去似乎“不太靠谱”。adf即热新闻——关注每天科技社会生活新变化gihot.com

同时,人工智能辅助医生诊疗时能够引用出最新指南,并标注多篇参考文献中的关键内容,正成为越来越被倚重的“全知型”帮手。adf即热新闻——关注每天科技社会生活新变化gihot.com

那么,人工智能参与照护百姓健康后,该如何划定效率与责任的边界?医疗领域在对人工智能高效便利等优点善加利用的同时,怎样才能避开风险?adf即热新闻——关注每天科技社会生活新变化gihot.com

处方应由接诊医师本人开具adf即热新闻——关注每天科技社会生活新变化gihot.com

“目前人工智能在临床诊疗中,比较被接受的作用是临床决策支持和辅助。”广东医科大学多模态数据融合应用实验室(GMCLab)主任弓孟春告诉科技日报记者,医嘱开立作为诊疗行为的关键步骤,目前的确不允许也不应该由人工智能直接进行处方开立。adf即热新闻——关注每天科技社会生活新变化gihot.com

上海市眼病防治中心主任医师朱剑锋也向科技日报记者表示,线上问诊可以用AI来辅助,但诊断和开具处方是不允许的。adf即热新闻——关注每天科技社会生活新变化gihot.com

2021年,国家卫生健康委发布的《公立医院高质量发展促进行动(2021—2025年)》中也明确,鼓励有条件的公立医院加快应用智能可穿戴设备、人工智能辅助诊断和治疗系统等智慧服务软硬件,提高医疗服务的智慧化、个性化水平。adf即热新闻——关注每天科技社会生活新变化gihot.com

“对于人工智能的核心约束,是它不能替代医生直接进行诊疗决策。”弓孟春解释,通俗地说,AI是提建议的,医生是做决策的,听不听由医生决定。人工智能软件目前能提供用药禁忌、剂量换算、注意事项提醒等辅助功能。adf即热新闻——关注每天科技社会生活新变化gihot.com

“使用人工智能自动处方的情况,一般不会发生在实体医院内。”弓孟春解释,实体医院的诊疗流程有着严格的质控和监管,不太可能出现机器替代人开医嘱的情况。互联网医院等医疗主体的诊疗环节在院外,较难监管。adf即热新闻——关注每天科技社会生活新变化gihot.com

记者查阅湖南省医保局发布的《关于进一步加强基本医疗保障定点零售药店管理的通知》文件后发现,“严禁使用人工智能等自动生成处方”的提法在“规范互联网医保定点医院处方行为”的条款中,条款同时要求互联网医院要与患者或患者家属进行有效、充分的沟通问诊。adf即热新闻——关注每天科技社会生活新变化gihot.com

对于互联网诊疗,国家卫生健康委在2022年发布的《互联网诊疗监管细则(试行)》中对接诊、开方流程均进行了明确规定:其他人员、人工智能软件等不得冒用、替代医师本人提供诊疗服务;处方应由接诊医师本人开具,严禁使用人工智能等自动生成处方。adf即热新闻——关注每天科技社会生活新变化gihot.com

对AI给出的新论断要充分研判adf即热新闻——关注每天科技社会生活新变化gihot.com

有观点认为,由于人工智能“幻觉”是天生的,会杜撰药品名称、治疗方法等,其用于医疗可能“闯下大祸”,加之Open AI(开放式人工智能)之前在美国应用时也出现过“幻觉”问题,这些都令人很忐忑。adf即热新闻——关注每天科技社会生活新变化gihot.com

那么,能不能消除大模型自主产生的、看似逻辑严密却又毫无依据的“幻觉”呢?医疗和人工智能领域在联合研发过程中,从未回避这一问题。adf即热新闻——关注每天科技社会生活新变化gihot.com

不久前,北京协和医院与中国科学院自动化研究所共同研发的“协和·太初”罕见病人工智能大模型正式进入临床应用阶段。科研团队将能有效抑制人工智能“幻觉”作为其三大核心优势之一。相关报道显示,传统的人工智能模型常因数据噪声或知识盲区产生“幻觉”,易导致错误推断。“协和·太初”通过整合权威数据、动态更新知识、增加溯源机制等方式,有效抑制模型出现“幻觉”,增强了临床决策可信度。adf即热新闻——关注每天科技社会生活新变化gihot.com

“抑制‘幻觉’,目前主要通过本地化的高质量数据集(如真实的诊疗记录等)和大量经人工验证的知识库(如临床诊疗指南、教材及公开可及的科学文献等)进行模型微调。”弓孟春解释,“通过提示词工程等技术在推理过程中施加有效的证据佐证、溯源核查、判据验证等,并不断反馈与修正。”可以理解为,让AI只学“好知识”,并限制推理“边界”,也可增加“溯源”机制,在临床应用前不断修正“教育”。adf即热新闻——关注每天科技社会生活新变化gihot.com

相关专业机构发布的DeepSeek(深度求索)在国内三甲医院部署的统计显示,包括复旦大学附属华山医院、瑞金医院、深圳市人民医院等在内的多个医院开启了与国内顶尖人工智能企业的联合研发,通过跨领域的融合和对接,加速推进医疗智能化,解决“卡脖子”问题。业内认为,利用DeepSeek独特的“分层次知识蒸馏”技术,可使医疗复杂场景中的推理计算量降低30%。adf即热新闻——关注每天科技社会生活新变化gihot.com

“国内外大量基于多模态临床数据进行的研究证实,人工智能技术所提供的临床洞察意见可能会超越医生所能掌握的知识极限和物理感觉极限,为临床决策提供重要的辅助意见。”弓孟春说,对于AI给出的新证据、新论断要持“审慎验证、充分研判”的态度,建设多模态临床数据基础设施,梳理高质量的队列,对各类数据驱动的医学新发现进行验证。以多学科诊疗(MDT)的形式将AI提供的临床证据融入诊疗环节为患者服务,是全球医疗科研领域的主流发展趋势之一。adf即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-841-0.htmlAI不能替代医生直接进行诊疗决策

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:别用手机AI推荐的药方去抓药了!

下一篇:深圳机器人“天团”解锁多元新赛道

为你推荐
近日,完美世界(002624.SZ)发布2024年度业绩预告。预告显示,完美世界去年全年预计实现营业收入55亿元至56亿元,预计归母净利润为亏损11...
01-21
1月20日,我国首款起飞重量5.25吨、最大载重1.9吨的大型无人机鸿雁(HY100)在新疆石河子市天域航通石河子生产基地成功实现量产下线,其中3架顺利向客户完...
01-21
  春节的脚步日益临近,丹东市花卉市场迎来了一年中的销售旺季,品质优良的各式花卉被摆放在最显眼的位置...
01-22
  从来,“年”都是有情的日子。  从“灯前小草写桃符”的除夕夜开始,到“花市灯如昼”的元宵...
02-14
  国泰航空飞往香港航班因故障折返美国波士顿  中新社香港1月20日电 (记者 韩星童)国泰航空20日回复中新社记者查询时表示,国泰航空20日一架由美国波士顿前往香港的航班,...
01-21
  加州又起大火:事发全球最大储能电厂,有数万块电池,马斯克急辟谣  澎湃新闻记者 贺梨萍  当地时间1月16日下午,美国加利福尼亚州莫斯兰丁(Moss Landing)储能电厂发生火灾...
01-21
刚过去的2024年,吉利银河以惊人的销量增速引起业界广泛关注,全年销量突破49.4万辆,同比增长约80%,几乎达到2023年的两倍。2025年刚开年,在1月第二周的销量排行榜上,吉利银河已在多...
01-21
2 月 2 日消息,上汽通用别克品牌宣布别克 GL8 陆尊 PHEV 八方来财版上市。该车以“八方来财”套件形式提供,GL8 陆尊 PHEV 全系款型均可免费选装(限量 888 辆)。作为比...
02-02
  张硕  近年来,剧集市场出现了一种“历史考据+悬疑叙事+当下表达”的微观历史剧,在真实的历...
01-22
最近打开社交app时,经常能看到关于“许食堂韩剧女主是谁演的”的讨论。《许食堂》是一部备受期待的韩剧,由EXY秋昭贞和金珉锡主演,讲述了一段奇幻又浪漫的喜剧...
02-20
21世纪经济报道记者 唐唯珂 广州报道社会办医的洗牌期仍在继续。2025年1月,新华医疗挂牌转让旗下山东新华昌国医院投资管理有限公司55%股权...
01-25
  节日期间大鱼大肉、黑白颠倒,原有的生活规律被打破,节后身体可能就好“闹脾气”,最常见的就是...
02-11
师生在街头义务为群众书写春联 贾敏杰 摄  当日,河北省石家庄新乐市东长寿学校举行“金蛇送福、柿柿如意”师生义务书写春联活动,师生为群众书写春联福字,传递新年祝福。 编...
01-21
4月14日下午,我跟随华商童学会小记者参观了九紫宝藏陨石博物馆。那里有好多陨石,来自全球各国,其中陈列最多的要属铁陨石,还有部分的恐龙时代的陨石,以及浑身黑漆漆的碳陨石。它...
01-21
  原标题:盘点2024持牌消金(二)|增资“补血”迭起、融资成本走低:金融债利率底部跌破2%  中国网...
01-22
  中国经济网北京2月7日讯 国家金融监督管理总局网站日前发布的上海监管局行政处罚信息公开表...
02-08
天秤座的男生注重外貌和气质,他们喜欢温柔、优雅、有内涵的女人。下面就让我们来看看天...
01-22
在星座中,双鱼男和射手女被认为是最具吸引力和神秘感的组合之一。他们之间的化学反应常...
01-22
魅力绽放:模特T台走秀背后的故事在时尚界,有一种声音永远不会被忽视,那就是模特T台走秀。这个将创意与自信结合的空间,不仅展示着设计师的想象力,还体现着模特们的努力与魅力。走...
02-12
牛皮掉皮了会怎样? 牛皮会掉皮吗?牛皮掉皮了会怎样?会掉一手皮。准备鸡蛋清和包包颜色相同的鞋油,将二者混合在一起,均匀涂抹在掉皮的部位,放在度通风处晾干,再用软毛巾擦干净,擦均...
02-17
1月22日消息,全国农产品流通企业助农联合体第三次工作会议近日召开,一亩田荣获“2024优秀助农奖”。中国蔬菜流通协会会长戴中九介绍,助农联合体的企业都是国内农产品流通各个...
02-07
刘强东:无论京东做多大,都将会把最实惠的价格带给用户。1.京东上线竞价购物玩法刘强东认准一件事情,似乎无论发生什么,都会贯彻到底。自从2022年底京东零售内部大会上,刘强东明确...
02-13
2月9日消息,中国动画电影《哪吒2》总票房(含点映及预售)已突破70亿元。四川宜宾、江油等“含吒量”较高的旅游目的地,成为这波流量红利的受益者。同程旅行数据显示,自《哪吒2》电...
02-09
2月13日消息,蚂蚁集团发布《2024年消费者权益保护年报》。报告显示,2024年,蚂蚁集团发挥安全科技能力,预防、识别和应对各种风险,协助公安反诈部门保护35.6亿元资金;加速拥抱 AI ...
02-14
【#华油集团与五粮液集团合资公司登记成立# 注册资本3亿】天眼查App显示,近日,华油五粮(北京)供应链管理有限责任公司成立,法定代表人为杨金峰,注册资本3亿人民币,经营范围含供应链...
01-21
自去年底开始,黄金多头优势逐渐退却,国际现货黄金价格经历几次大跌后一度跌下2700关口,多空进入漫长的震荡周期,多头始终无法找到再度冲高的时机。  北京时间1月21日,国际现货...
01-24
根据外媒的一份新报告,法国外设厂商NACON称他们预计公司2025/2026财年上半年的销量将大幅增长,作为增长的其中一个原因,他们认为任天堂Switch 2将在此期间发布,即2...
01-22
已经登陆多平台的奇幻背景建造主题RPG游戏《神箱 - Mythology of Cube -》(日版)官方宣布将推出国际版,预定1月30日登陆Steam、PlayStation5/4、Nintendo Switch平...
01-24
极目新闻记者 吴昌华通讯员 胡子昂 何周谛2025年2月2日,农历正月初五,武汉归元寺迎来群众敬香祈福高峰。当天清晨,天还没亮,已有不少人等候在归元寺外,武汉公安民警、辅警早已在...
02-03
中央气象台今早6点继续发布大风黄色预警和寒潮蓝色预警。大风黄色预警:预计今天8点到明天8点,华北、内蒙古中部、宁夏、陕西北部、黄淮等地的部分地区有5~6级、阵风7~8级的偏...
02-06
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮