微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%


微软最新研究再次证明了提示工程的威力——

无需额外微调,无需专家策划,仅凭提示,GPT-4就能化身“专家”。

使用他们提出的最新提示策略Medprompt,在医疗专业领域,GPT-4在MultiMed QA九个测试集中取得最优结果。

在MedQA数据集(美国医师执照考试题)上,Medprompt让GPT-4的准确率首次超过90%超越BioGPT和Med-PaLM等一众微调方法。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%

研究人员还表示Medprompt方法是通用的,不仅适用于医学,还可以推广到电气工程、机器学习、法律等专业中。

这项研究在X(原Twitter)一经分享,就引发众多网友关注。

微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%

沃顿商学院教授Ethan Mollick、Artificial Intuition作者Carlos E. Perez等都有转发分享。

Carlos E. Perez直呼“出色的提示策略可以甩微调一大截”:

微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%

有一些网友表示早就有这种预感,现在能看到结果出来,真的是太酷了!

微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%

有些网友认为这真的很“激进”

GPT-4是一项能改变行业的技术,而我们还远没有触及提示的极限,也未达到微调极限。

微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%

组合提示策略,“变身”专家

Medprompt是多种提示策略的组合体,包含三大法宝:

  • 动态少样本选择(Dynamic few-shot selection)
  • 自生成思维链(Self-generated chain of thought)
  • 选项洗牌集成(Choice shuffling ensemble)

接下来,我们将逐一进行介绍

微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%

动态少样本选择

少样本学习是让模型快速学习上下文的一种有效的方法。简单来说,就是输入一些示例,让模型快速适应特定领域,并学习遵循任务的格式。

这种用于特定任务提示的少样本示例通常是固定的,所以对示例的代表性和广泛性有较高的要求。

之前一种方法是让领域专家手动制作范例,但即便如此,也不能保证专家策划的固定的少样本示例在每个任务中都有代表性。

微软研究人员提出了一种动态少样本示例的方法,因此

想法是,任务训练集可以作为少样本示例的来源,如果训练集足够大,那就可以为不同的任务输入选择不同的少样本示例。

在具体操作上,研究人员首先使用text-embedding-ada-002模型为每个训练样本和测试样本生成向量表示。然后,针对每个测试样本,通过比较向量的相似度,从训练样本中选择出与之最相似的k个样本

与微调方法相比,动态少样本选择利用了训练数据,但不需要对模型参数进行大量更新。

自生成思维链

思维链(CoT)方法是一种让模型逐步思考并生成一系列中间推理步骤的方法

以前的方法是依靠专家手动编写一些带有提示思维链的示例

TTSMaker TTSMaker

TTSMaker是一个免费的文本转语音工具,提供语音生成服务,支持多种语言。

TTSMaker 2275 查看详情 TTSMaker

微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%

在这里,研究人员发现,可以简单地要求GPT-4使用以下提示为训练示例生成思维链:

微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%

但研究人员也指出这种自动生成的思维链可能包含错误的推理步骤,于是设置了一个验证标签作为过滤器,可以有效减少错误。

与在Med-PaLM 2模型中专家手工制作的思维链示例相比,GPT-4生成的思维链基本原理更长,而且分步推理逻辑更细粒度。

选项洗牌集成

GPT-4在处理选择题时可能存在一种偏见,即无论选项的内容是什么,它倾向于总是选择A或总是选择B,这就是位置偏差

为了解决这个问题,研究人员决定对原有的选项进行顺序重排,以减少影响。例如,原本的选项顺序为ABCD,可以改为BCDA、CDAB等

然后让GPT-4做多轮预测,每轮使用选项的一个不同排列顺序。如此一来“迫使”GPT-4考虑选项的内容。

最后对多轮预测结果做个投票,选择最一致、正确的选项。

将以上几种提示策略组合在一起就是Medprompt,下面来看测试结果。

多项测试最优

在测试中,研究人员采用了MultiMed QA评估基准。

微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%

使用Medprompt提示策略的GPT-4,在MultiMedQA的九个基准数据集中均取得最高分,优于Flan-PaLM 540B、Med-PaLM 2。

此外,研究人员还讨论了Medprompt策略在“Eyes-Off”数据上的表现。所谓“Eyes-Off”数据,指的是模型在训练或优化过程中未曾见过的数据,用于检验模型是否过拟合训练数据

微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%

结果GPT-4结合Medprompt策略在多个医学基准数据集上表现出色,平均准确率达到了91.3%。

研究人员对MedQA数据集进行了消融实验,以探索三个组件对整体性能的相对贡献

微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%

在其中,自动生成思维链步骤对于性能的提升起着最大的作用

微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%

GPT-4自动生成的思维链得分比Med-PaLM 2中专家策划的得分更高,并且不需要人工干预

微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%

最后,研究人员还探索了Medprompt的跨域泛化能力,取用了MMLU基准中的六个不同的数据集,涵盖了电气工程、机器学习、哲学、专业会计、专业法律和专业心理学的问题。

还添加了另外两个包含NCLEX(美国护士执照考试)问题的数据集。

结果显示,Medprompt在这些数据集上的效果与在MultiMedQA医学数据集上的提升幅度相近,平均准确率提高了7.3%。

微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%

请点击以下链接查看论文:https://arxiv.org/pdf/2311.16452.pdf

以上就是微软仅凭「提示工程」让GPT-4成医学专家!超过一众高度微调模型,专业测试准确率首次超90%的详细内容,更多请关注其它相关文章!


# 上海  # seo免费查询  # 网站建设市场调查  # 拉萨陵县网站建设  # 百度关键词通过什么排名  # 莆田网站推广哪个平台好  # 天猫店网站优化策划  # 大岭山镇优化seo  # 网站快速优化留痕  # 宁波网站建设哪家评价高  # 建设工程投标在哪个网站  # 中国  # 模型  # 美国  # 自动生成  # 丰田  # 都有  # 中国科学院  # 仅凭  # 微软  # 首次  # med-palm  # 数据 


相关栏目: 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894


相关推荐: AYANEO AIR 1S 掌机 7 月 9 日发布:R7 7840U + OLED 屏  ​布局智能物联新时代,中国移动“5G+物联网”亮相2025 MWC  RoboNeo什么时候上线  将上下文长度扩展到256k,无限上下文版本的LongLLaMA来了?  映宇宙集团执行总编辑:元宇宙还是要以人为媒介  CharacterAI - 也许会成为会话人工智能的未来  搭载星火认知大模型 讯飞听见智慧屏开启AI办公新体验  微幼科技推出全自动晨检机器人,助力幼儿园校园健康检测  无人机自主巡检为高海拔输电线路运维添“新彩”  日新月异,脑机接口技术都有哪些新应用?  XREAL发布新款硬件XREAL Beam投屏盒子:可悬停AR空间屏  AI大模型火了!科技巨头纷纷加入,多地政策加码加速落地  当一个网站的内容被 AI 完全接管  李开复:未来几年,人工智能会革了所有人的命,除非你这么做  人工智能如何帮助制造业?  马斯克预测:特斯拉全自动驾驶将在今年实现 对AI深度变化感到担忧  软通动力多项AI创新产品及应用亮相2025世界人工智能大会  650亿参数,8块GPU就能全参数微调:邱锡鹏团队把大模型门槛打下来了  Transformer六周年:当年连NeurIPS Oral都没拿到,8位作者已创办数家AI独角兽  西班牙小鲜肉*视频在网上疯传,本人发文澄清:是AI换脸的假视频!  「电子果蝇」惊动马斯克!背后是13万神经元全脑图谱,可在电脑上运行  对话无界AI创始人长铗:AI的创业机会在应用层丨创新者Innovator  AI大模型时代,数据存储新基座助推教科研数智化跃迁  Meta推出VR订阅服务Quest +:每月免费玩两款游戏,7.99美元/月  云深处科技绝影 Lite3 与 X20 四足机器人亮相  全面拥抱大模型浪潮,ISC 2025打造全球首场AI数字安全峰会  2025WRC世界机器人大赛锦标赛(烟台)收官!斯坦星球勇夺VEX赛项冠亚军!  生成式AI对云运维的3大挑战  生活垃圾智能分类机器人社区展“才能”,征求居民意见  谷歌内部正在测试代号为Genesis的AI新闻写作产品  “技术+实践+生态”三箭齐发,京东方抢占物联网高地  洞穴探险神器?可自主导航的单旋翼自旋无人机,效率更高!  美图公司吴欣鸿:AI技术重构影像产业  30+大模型齐聚,大模型成世界人工智能大会“顶流”  【|直播|预告】人工智能高峰论坛将于7月2日13:30准时开播!  马克龙密会AI专家,法国加入全球人工智能竞赛  马斯克嘲讽人工智能:机器学习本质就是统计学  DragGAN开源三天Star量23k,这又来一个DragDiffusion  国内首款大尺寸仿鸵双足机器人“大圣”亮相,穿戴红色战袍  人工智能在重症监护室的未来  智能机器人正在彻底改变客户服务  OpenAI限制网络爬虫访问以保护数据免被用于AI模型训练  商汤科技:元萝卜 AI 下棋机器人新品发布会 6 月 14 日举行  华为发布大模型时代AI存储新品  “五年内人类程序员将消失”预言引争议,AI真的那么强大了吗?  美图秀秀发布7款AI产品:支持用户创作、商业创作  “图壤·阅读元宇宙”亮相北京国际图书博览会  百度举办AIGC创作沙龙,现场传授AI绘画“咒语”技巧  VMS的应用:提升多品牌设备管理效能  人工智能赋能无人驾驶:商业化进程再提速 

 2023-12-04

了解您产品搜索量及市场趋势,制定营销计划

同行竞争及网站分析保障您的广告效果

点击免费数据支持

提交您的需求,1小时内享受我们的专业解答。

运城市盐湖区信雨科技有限公司


运城市盐湖区信雨科技有限公司

运城市盐湖区信雨科技有限公司是一家深耕海外推广领域十年的专业服务商,作为谷歌推广与Facebook广告全球合作伙伴,聚焦外贸企业出海痛点,以数字化营销为核心,提供一站式海外营销解决方案。公司凭借十年行业沉淀与平台官方资源加持,打破传统外贸获客壁垒,助力企业高效开拓全球市场,成为中小企业出海的可靠合作伙伴。

 8156699

 13765294890

 8156699@qq.com

Notice

We and selected third parties use cookies or similar technologies for technical purposes and, with your consent, for other purposes as specified in the cookie policy.
You can consent to the use of such technologies by closing this notice, by interacting with any link or button outside of this notice or by continuing to browse otherwise.