医学影像诊断小助手!HealthGPT 多模态医学影像诊断准确率高达 99.7%

93 阅读2分钟

HealthGPT 是由浙江大学、电子科技大学、阿里巴巴、香港科技大学、新加坡国立大学于 2025 年 3 月 16 日联合发布的医疗大型视觉语言模型(Med-LVLM),通过异构知识适应技术实现医学视觉理解和生成任务的统一框架。采用创新的异构低秩适应(H-LoRA)技术,将视觉理解与生成任务的知识存储在独立的插件中,避免任务间的冲突。 HealthGPT 提供两种版本:HealthGPT-M3(38 亿参数)和 HealthGPT-L14(140 亿参数),分别基于 Phi-3-mini 和 Phi-4 预训练语言模型。模型引入了分层视觉感知(HVP)和三阶段学习策略(TLS),优化视觉特征的学习和任务适应能力。相关论文成果为「HealthGPT: A Medical Large Vision-Language Model for Unifying Comprehension and Generation via Heterogeneous Knowledge Adaptation」,已被 ICML 2025 收录并评选为 Spotlight。

教程链接:go.openbayes.com/KdDsr

使用云平台: OpenBayes

openbayes.com/console/sig…

首先点击「公共教程」,在公共教程中找到「HealthGPT:AI 医疗助手」,单击打开。

页面跳转后,点击右上角「克隆」,将该教程克隆至自己的容器中。

在当前页面中看到的算力资源均可以在平台一键选择使用。平台会默认选配好原教程所所使用的算力资源、镜像版本,不需要再进行手动选择。点击「继续执行」,等待分配资源。

数据和代码都已经同步完成了。容器状态显示为「运行中」后,点击「 API 地址」,即可进入模型界面。

我们以示例 2 为参考进行演示,点击示例 2 的任意区域,可以看到自动输入了问题「Which abdominal organ shows anyindication of a lesion or abnormalityin the CT image?」和相应的图片,点击「Process」开始生成,HealthGPT 很快给出了分析结果,模型表示 CT 图像显示肝脏存在一个病灶或异常。