患者与医生正转向人工智能寻求诊断和治疗建议，往往能获得出色效果，但当专家意见与算法结论相左时，问题便随之而来。
一位 Reddit 用户因拳击受伤导致下颌疼痛弹响，忍受了五年之久。他们看过专科医生、做过核磁共振，但无人能给出解决方案，直到向 ChatGPT 描述了这一问题。这款 AI 聊天机器人提出可能是特定的颌骨错位问题，并建议了一种通过调整舌头位置的治疗方法。尝试后，弹响症状消失了。”五年间我一直默默忍受着，”该用户四月份在 Reddit 上写道 ，”这个 AI 一分钟就给了我解决方案。”
这则故事迅速走红，领英联合创始人里德·霍夫曼在 X 平台转发了该帖。这并非个例：社交媒体上正涌现大量类似案例 ——据称患者通过 LLMs 获得了对其核磁共振影像或 X 光片的准确评估。
考特妮·霍夫曼的儿子患有一种罕见的神经系统疾病。在三年间经历了 17 次就诊却仍未获得明确诊断后，她将孩子的所有医疗文件、扫描报告和病历笔记输入了 ChatGPT。这个 AI 给出了答案——脊髓栓系综合征（脊髓因与周围组织粘连无法自由活动），她表示此前接诊的医生们都漏诊了这一病症。”从使用 ChatGPT 到实施手术仅隔六周，如今他完全像换了个人，”她在 2024 年 11 月接受《新英格兰医学杂志》 播客采访时说道。
面向消费者的 AI 工具正在改变人们获取医疗建议的方式，无论是症状咨询还是诊断参考。”谷歌医生”的时代正逐渐让位于”ChatGPT 医生”的新纪元。医学院校、执业医师、患者团体以及聊天机器人的开发者们正全力应对这一变革：他们需要评估这些 LLMs 提供的医疗答案准确性，探索医患双方的最佳使用方式，并制定应对错误信息误导患者的策略。
“我非常有信心这将改善患者的医疗保健服务，”哈佛医学院讲师兼执业医师亚当·罗德曼表示，“你可以想象人们与 LLMs 交流的多种方式，这些对话可能关联到他们的个人医疗记录。”
罗德曼在查房时已目睹患者向 AI 聊天机器人求助。最近一次值班期间，他正同时照料十几位患者，其中一位女性因等待时间过长感到沮丧，便截屏了自己的医疗记录输入 AI 聊天机器人。“她说‘我已经问过 ChatGPT 了’，”罗德曼回忆道，而 AI 确实就她的血液疾病给出了正确答案。
这次交流并未让罗德曼感到不安。作为这项技术的早期采用者，同时担任哈佛医学院课程中生成式 AI 应用指导小组主席的他，认为 AI 有潜力为医患提供更优质的信息并改善互动关系。“我把这视为与患者探讨其担忧的又一个契机，”他说道。
这里的关键词是潜力。多项研究表明，人工智能在某些情况下能够提供准确的医疗建议和诊断，但当这些工具交到人们手中——无论是医生还是患者——准确性往往会下降。使用者可能会犯错，比如没有向 AI 提供全部症状，或在反馈正确信息时将其忽略。
在一项研究中，研究人员向医生提供了一系列患者病例，要求他们先根据患者症状和病史评估患不同疾病的可能性，再查看实验室结果后重新评估。其中一组可获得 AI 辅助，另一组则没有。两组在诊断推理评估中表现相近——该评估不仅关注诊断准确性，还考察医生如何解释推理过程、考虑替代方案及建议后续措施。获得 AI 辅助的组别诊断推理得分中位数为 76%，而仅使用标准资源的组别为 74%。但当 AI 单独接受测试时（无需任何人类输入），其表现显著更优，得分中位数高达 92%。
哈佛大学的罗德曼参与了这项研究，他表示 2023 年开展研究时，AI 聊天机器人仍相对新颖，医生对这些工具的不熟悉可能降低了他们做出准确诊断的能力。但除此之外，更深入的发现是医生仍将自己视为主要的信息过滤器。”当 AI 与他们的意见一致时，他们很喜欢；当意见相左时，他们就会忽视它，”他说，”当机器指出他们错了时，他们并不信任它。”
罗德曼本人几年前曾在一例疑难病例上测试过人工智能，当时他和其他专家初诊时都误诊了。他向该工具提供了患者病例的相关信息，”它第一个输出的结果正是这位患者所患的极其罕见的疾病，”他说。人工智能还给出了另一种更常见病症作为备选诊断，但认为可能性较低。而罗德曼和专家们最初误诊的正是这个常见病症。
另一项涉及 1200 多名参与者的预印本研究显示，AI 独立诊断的正确率接近 95%，但当人们使用相同工具辅助自身判断时，准确率骤降至仅三分之一。
例如，研究中有一个场景涉及突然出现的剧烈头痛和颈部僵硬。正确的做法是立即就医，以排查脑膜炎或脑出血等潜在严重疾病。部分用户能借助人工智能得出正确答案，但另一些人却被建议只需服用非处方止痛药并在暗室休息。研究发现，AI 回答的关键差异源于用户提供的信息——当未提及症状突发性时，系统会生成错误答案。
但无论提供的信息正确与否，人工智能都会自信地呈现答案，仿佛它们就是真相——即便答案可能完全错误，麦吉尔大学医学院创新教授兼执业医师艾伦·福斯特指出，这正是问题所在。与返回网站列表和链接供用户自行查证的搜索引擎不同，AI 聊天机器人以完整段落输出内容。”结构化文本让答案显得更具权威性，”福斯特表示，”它组织得非常精妙，莫名让人觉得更可信。”
生育专家杰米·克诺普曼指出，即便 AI 给出的信息正确，也无法像医生那样通过经验来补充所提供的信息。当她在曼哈顿中城诊所的患者带来 AI 聊天机器人的建议时，这些信息未必有误，但 LLM 推荐的方法可能并不适合患者的具体情况。
例如，在考虑试管婴儿时，夫妇会获得胚胎存活率的评级。但 Knopman 指出，仅凭这些评分就让 ChatGPT 给出后续步骤的建议，并未考虑其他重要因素。”评级并非全部：还需要综合其他情况”——比如胚胎活检的时间、患者子宫内膜状态，以及既往生育史是否成功。Knopman 表示，除了多年的专业培训和医学教育外，她”已为成千上万名女性提供过诊疗”。这种经验让她能根据实际情况判断下一步措施，而这是 LLM 所不具备的。
克诺普曼表示，其他患者会根据从 AI 获得的回复，对胚胎移植方式有明确要求。但她指出，虽然 AI 建议的方法可能很常见，但针对患者具体情况或许存在更合适的方案。”我们有科学依据作为支撑，通过学习掌握技术，但更重要的是要懂得为何某种治疗方案或规程对特定患者更有效——这需要临床经验的艺术。”她解释道。
开发这些 AI 聊天机器人的部分公司已着手构建工具，以解决人们对医疗信息准确性的担忧。ChatGPT 母公司 OpenAI 于 5 月 12 日宣布推出 HealthBench 系统，旨在评估 AI 回答健康问题的能力。OpenAI 表示，该项目在 60 个国家 260 多名医师协助下开发，包含 5000 组用户与 AI 模型的模拟医疗对话，并配有医生设计的评分指南用于评估回答质量。该公司指出，早期版本 AI 模型生成的回答尚需医生修正，但声称 2025 年 4 月发布的最新模型（如 GPT-4.1）已达到或超越人类医生的水平。
Open AI 在其官网上表示：”我们的研究结果表明，大型语言模型随时间推移已取得显著进步，在针对我们基准测试案例撰写回复方面已超越专家水平。但即便是最先进的系统仍有很大改进空间，特别是在获取模糊查询所需背景信息方面，以及最坏情况下的可靠性表现。”
其他公司正在开发专为医疗专业人士设计的健康领域工具。微软表示已创建了一个名为 MAI 诊断协调器（MAI-DxO）的新 AI 系统 ，测试中该系统的诊断准确率是人类医生的四倍。该系统通过查询多个领先的大型语言模型（包括 OpenAI 的 GPT、谷歌的 Gemini、Anthropic 的 Claude、Meta 的 Llama 以及 xAI 的 Grok）来运作，其工作方式近似模拟多位人类专家协同会诊。
哈佛医学院医学教育院长 Bernard S. Chang 表示，新晋医生需要学习如何使用这些 AI 工具，并指导患者正确使用。正因如此，该校率先开设了课程指导学生如何在临床实践中运用这项技术。”这是当前医学教育领域最令人振奋的发展之一，”Chang 说道。
这情形让常医生想起20年前人们开始上网查询医疗信息的时候。患者会来找他说：”希望你不是那种用谷歌看病的医生。”但随着搜索引擎变得无处不在，他想回应这些患者：”你反而不会想找连这个都不用的医生。”如今他看到人工智能正在重演相同的故事。”什么样的前沿医学从业者会拒绝使用如此强大的工具呢？”