医院难以验证GPT-AI完成的临床摘要

seekdeep2年前AI资讯943

尽管很多医院热衷于投入人力物力开发GPT-AI"医生助手"或医用聊天机器人,但在真实环境中验证GPT-AI“助手”过程中,医院管理者和医生感觉"有点混乱",并没有达到预期目标和期望值。关注详情。




阅读文摘


随着人工智能(AI)在医疗保健领域的应用快速增长趋势,各级医院都在评估和部署GPT-AI辅助医生完成患者疾病的临床摘要,比如医护人员在交接班时审阅患者的病历小结,以及门诊病历报告小结等,都面临着挑战。


尽管AI技术,如GPT-4展示了处理复杂医疗内容记录的巨大潜力,但在准确性和安全性方面仍存在问题。


医护人员特别担心AI助手可能遗漏或错误地解读某些关键医学词语或信息,尤其是在缺乏专业人员审核的情况下。


这种担忧导致了医院在引入和落实这些GPT-AI技术时需要选择如何测试其性能、提供哪些安全措施以确保其在真实环境中的安全高效使用。


根据纽约大学朗格医疗健康中心的一项研究报告,使用GPT-4将患者出院摘要转换为易于理解的短文形式,提高了患者对个人疾病状况的可读性和理解,但也发现了AI助手产生的错误和遗漏。这些突显了AI技术的潜力与风险,仍然需要人工干预和审阅以保障准确性。


目前,评估AI生成的医疗文档摘要的方法,仍缺乏标准化和质量控制系统,达到医生满意的结果仍需要解决这些挑战。


为此,AI医学研究人员正在建立评估标准,希望能为AI医学助手在临床病例摘要应用中创建一个可重复使用的评估框架参考。AI技术的快速发展带来了可能的获益同时也产生了潜在风险,这是必然的,但如何解决才是人类的智慧。




AI医学讲座第二部分(3月31日开始)


人工智能(AI)进入医疗保健领域,医护人员借助AI提供更加精准的诊疗,患者获得更加个性化的健康管理和建议。与此同时,也降低了医保费用支出和患者反复住院或急诊率。这些已是不争的事实。


然而,目前医院和医疗主管部门仍在观望AI技术在真实环境中的应用效果,其原因之一是知识和信息储备不足,希望了解更多案例。我们在AI医学讲座第一部分中,以案例解析为主,讲解了智慧医院引入AI技术,包括生成式GPT-AI辅助建立医院“AI窗口”;临床常规检查,数字信息化转型进入AI医学决策中心等。


相关文章

让六大科技巨头市值狂飙8万亿。ChatGPT迎来“两岁生日”,自己却官司缠身,或面临数十亿索赔!

两年前的11月30日,OpenAI推出的生成式聊天模型ChatGPT横空出世,并迅速成为史上用户增长速度最快的应用程序之一。据美国国家广播公司2023年11月30日报道,在推出一年的时间里,从撰写电子...

MedGPT凭借精确性成为医生“好帮手”,筑牢安全防线!

MedGPT凭借精确性成为医生“好帮手”,筑牢安全防线!

近日,国家卫生健康委办公厅、国家中医药局综合司、国家疾控局综合司联合发布《卫生健康行业人工智能应用场景参考指引》,指出各地要积极推进卫生健康行业“人工智能+”应用创新发展,在医学影像智能辅助诊断及质控...

OpenAI获66亿美元新融资 投后估值超千亿

引领此轮生成式人工智能潮流的美国科技公司OpenAI,近日宣布再获66亿美元(约合人民币463.22亿元)新融资,投后估值高达1570亿美元(约合人民币1.1万亿元)。今年年初时,OpenAI市场估值...

84%收入来自近1000万名ChatGPT付费用户,机构预计一年创收34亿美元!OpenAI营收拆解!

近日,人工智能(AI)调研机构FutureSearch发布报告,对全球AI独角兽OpenAI的收入构成进行了拆解,提供了一个更清晰的收入结构图。FutureSearch的研究人员称,他们之所以要分析O...

上海AI Lab开始给大模型重新出题了,GPT-4o数学能力跑分直掉50%!

新模型在 MATH 上(以数学竞赛为主)动辄跑分 80% 甚至 90% 以上,却一用就废。这合理吗??为了真实检验模型数学推理能力,上海人工智能实验室司南 OpenCompass 团队放大招了。推出新...

中美两国AI已走出分岔,ChatGPT两周年!

2年前的2022年12月1日凌晨2点02分,下一代AI浪潮的命运之子ChatGPT正式上线。这标志着AI行业的一次新生。当时,OpenAI CEO奥尔特曼(Sam Altman)发布推文称,“语言界面...