医疗微调开源大模型

大多数临床团队面临的瓶颈

许多临床团队对在临床服务中应用生成式AI充满兴趣，但却面临显著障碍：

患者隐私与数据安全：由于数据隐私和安全问题，像ChatGPT这样的高性能公开大模型无法在临床工作流中使用。
准确性问题：较小的开源大模型（如Llama3.1-8B）的计算成本低，但其诊断准确性未能达到临床使用所需的高标准。
技术障碍：为达到高准确度，临床团队需要对较小的开源大模型进行微调。然而，微调过程中的技术复杂性往往超出临床团队独立解决的能力范围。

我们的大模型微调技术服务利用合成患者数据克服了瓶颈

为解决这些障碍，我们开发了一项新技术，利用 合成患者数据 对Llama3.1-8B进行微调，实现了超过90%的疾病预测准确率。通过提供经过临床前验证的高精度微调 Llama3.1-8B 模型以及必要的大模型微调服务，我们显著降低了技术和成本壁垒，从而使临床团队能够立即开始大模型临床研究。

Llama3.1-8B 模型可以在单个GPU服务器上进行训练和部署，使其成为大多数研究项目的经济选择。这确保了每个临床团队都有机会进行大模型研究，推动预测医疗的发展。

大模型微调技术服务

如果您需要用于生成式AI临床研究和应用的微调开源大模型，请通过平台联系我们或发送邮件至support@elhsi.org。我们将负责您的大模型项目的技术部分，包括：

协助您制定生成式AI临床研究计划。
用合成患者数据先创建理论微调 Llama3.1-8B 模型，消除瓶颈，再用您本地患者数据进一步微调模型，满足您的定制化需求。
部署带有对话机器人的微调大模型，便于您在临床流程中嵌入和测试。
指导临床团队用患者病历准备模型训练和验证所需的数据集。
协助整理研究发现和撰写顶刊论文初稿。

这种跨学科合作方式让您能够专注于临床评估，而我们负责微调的复杂技术。通过简化流程，您可以更高效地开展生成式AI临床研究，更快地发表论文，并推动生成式AI在医疗中负责任的应用。我们的服务按年度收订阅费。

联系我们（需登录）

临床前验证过的微调大模型，公开邀请研究合作

为方便任何临床团队开展大模型临床研究，我们还对一系列疾病微调了Llama3.1-8B，并将这些疾病预测大模型公开发布在Hugging Face的ELHS研究所仓库，供研究合作使用。微调前后的准确度比较显示（见下表），基线模型难以预测某些疾病，但经过微调后可以实现高精度预测。这些微调大模型的临床研究可能最容易做出成果，因为可清楚地展示微调能够提升大模型的预测准确度，帮助临床团队将大模型整合到临床服务的某个环节中有效辅助临床决策。

我们邀请世界各地临床团队在真实的临床环境中评估这些临床前验证过的“理论大模型”，并发表有关在改善医疗服务和患者健康方面负责任使用生成式AI的真实世界证据。如果您对在生成式AI临床研究中使用这些大模型有任何疑问，请随时联系我们。

临床前验证过的微调Llama3.1-8B开放模型

基于合成患者数据的微调前后精度比较（持续更新）

疾病	预测任务	开源大模型	微调前准确率	微调后准确率
Alzheimer Disease	Predict Alzheimer Disease	Llama3.1-8B	>90%	>90%
Amyotrophic Lateral Sclerosis	Predict Amyotrophic Lateral Sclerosis	Llama3.1-8B	>80%	>90%
Chronic Traumatic Encephalopathy	Predict Chronic Traumatic Encephalopathy	Llama3.1-8B	>80%	>90%
Corticobasal Syndrome	Predict Corticobasal Syndrome	Llama3.1-8B	>20%	>90%
Creutzfeldt-Jakob Disease	Predict Creutzfeldt-Jakob Disease	Llama3.1-8B	>50%	>90%
Fatal Familial Insomnia	Predict Fatal Familial Insomnia	Llama3.1-8B	>50%	>90%
Frontotemporal Dementia	Predict Frontotemporal Dementia	Llama3.1-8B	>90%	>90%
Ischemic Stroke	Predict Ischemic Stroke	Llama3.1-8B	>80%	>90%
Lewy Body Dementia	Predict Lewy Body Dementia	Llama3.1-8B	>30%	>90%
Mild Cognitive Impairment	Predict Mild Cognitive Impairment	Llama3.1-8B	>90%	>90%
Parkinson Disease	Predict Parkinson Disease	Llama3.1-8B	>90%	>90%
Breast Cancer	Predict Breast Cancer	Llama3.1-8B	>90%	>90%
Lung Cancer	Predict Lung Cancer	Llama3.1-8B	>80%	>90%
Nasopharyngeal Carcinoma	Predict Nasopharyngeal Carcinoma	Llama3.1-8B	>60%	>90%

注意：为了消除临床团队在前期开发成本上的障碍，针对不断扩展的疾病列表，我们对较小的 Llama3.1-8B 模型（8亿参数）进行了微调，并在Hugging Face公开提供这些微调模型。基线模型在微调前的预测准确率范围较广，从 20% 到 100% 不等。然而，在使用合成患者数据进行微调后，微调的 Llama3.1-8B 模型在预测各种患者案例中的目标疾病时，始终能达到 90%以上的准确率。准确率是基于使用合成患者数据集的前两个预测疾病评分计算得出。