我的开源大语言模型（LLM）
演示我的大模型
用对话机器人演示开源大模型的核心功能：预测能力、根据上下文对话。
顶级开源大模型: Llama-3.1-70B
常用对话机器人: Gradio 用户端
免费试用专属大模型助手的步骤
1. 平台注册后，联系我们，获得部署在国内云端的专属大模型助手的链接。
2. 免费试用7天，测试和确认开源大模型是否有潜力帮助您的医疗服务任务。
部署我专属的大模型助手的步骤
1. 联系我们，为您免费验证多个开源大模型，您选择一个最合适的模型。
2. 我们帮助在国内部署符合您要求的专属大模型助手，提供模型微调服务。
近期目标：通过三个快速步骤创建我专属的开源大语言模型
- 选择: 让 ELHS 团队帮助验证多个顶级的开源和商业大模型对我的医疗任务的有效性，例如对阿尔茨海默病或大多数神经疾病的诊断预测。比较不同版本的预测准确率，包括 Llama 3.1 和 3 系列、Gemma 2、Mistral、ChatGPT、Gemini、Claude 和 Ernie。选择一个最合适的开源大模型作为我的智能助手的基础模型。
- 部署: 在我的完全控制下，在云端或本地环境中部署我所选的开源大模型及一个对话机器人（如 Gradio 应用端）。
- 微调: 由我或我的团队每天使用该对话机器人，以评估并了解大模型的效果和行为。使用我的患者数据不断训练大模型，即对大模型进行微调，以提高其辅助我解决问题的能力。
长期目标：通过三大步骤加速训练我专属的大语言模型智能医学助手
- 学习医学生成式AI: 使用学习模块测试并比较不同大模型在预测我的医疗任务中的效果。
- 创建我的大模型: 在ELHS团队验证适合我的顶级开源大模型之后，选择一个合适的开源大模型，并在我控制的环境中与对话机器人用户端一起部署。
- 研究大模型助手: 每天使用我的对话机器人，评估大模型的效果和行为。在学习循环中使用我的患者数据对大模型进行微调，持续提高其效果，逐步将大模型对话机器人训练成为我可信任的智能助手。
为什么可以方便快速的拥有我专属的大模型和智能医学助手？
因为我们提供这个免费助手平台及相应的技术支持，为您降低了成本和技术障碍。
- 降低了成本障碍:
- 在部署自己的开源大模型之前，您需要回答两个重要问题。第一个问题是：开源大模型能否准确或至少在可接受的水平上预测我的医疗任务？要回答这个问题，首先需要测试最新版本的最佳商业大模型，如 ChatGPT、Gemini、Claude 和 Ernie，以了解当前生成式AI的准确性上限。您可能无法自行访问这些付费版本的对话机器人，但可以在我们平台的学习模块中免费测试和比较所有这些模型。接下来，您需要轻松测试几个顶级开源大模型，看看它们的表现如何。学习模块中的免费AI对话功能就包括Llama 3.1、Gemma 2 和 Mistral 开源模型供您测试。
- 第二个问题是：哪个版本的开源模型最适合我的医疗任务？要回答这个问题，您需要比较不同版本顶级开源模型的性能，这可能会耗费大量时间。我们的技术团队将免费为您进行验证研究，并建议您如何选择最合适的开源大模型，并考虑多个因素，包括大模型的性能、算力需求、数据安全性以及模型微调的潜力。
- 部署和运行您的大模型及其对话机器人是有一定成本的。由于我们的使命是为所有医生普及生成式人工智能以减少医疗差距，我们会努力为您将此成本降至最低。我们将提供云端部署的开源大模型和Gradio对话机器人用户端让您免费测试，测试满意后您再决定是否安装自己专属的大模型和对话机器人用户端。
- 降低了技术障碍:
- 对于大多数医生来说，部署和运行自己的大模型在没有技术支持的情况下是无法实现的。因此，我们的技术团队消除了医生的这一痛点——我们将为医生提供部署和运行大模型的技术服务。
- 医生在使用大模型解决医疗问题时也需要技术支持。为了消除这个技术障碍，我们的技术团队将帮助医生开发适用于他们的医疗任务和场景的 GUI 界面。我们将部署Gradio对话机器人用户端作为起步，让医生可以立即体验他们的大模型，并逐步定义他们的特定AI应用的用户需求，最终发展出他们专属的智能医学助手。
- AI 技术专长在大模型微调中更加关键。第一个挑战是通过更标准化和高度一致的数据收集方法，从您的患者数据中准备高质量的训练数据集。第二个挑战是使用有限的计算资源运行有效的微调算法。第三个挑战是以更自动化的方式快速评估模型性能的改进。有了我们的技术支持，医生可以减少对技术要求这样高的项目的担忧。
背景
得益于 Llama 等开源大语言模型，现在每个人拥有自己的大模型已变得更加可行。这对医生尤为重要，因为出于患者隐私和数据安全的原因，医生通常需要使用完全由他们自己或其机构控制的大模型。开源模型平台，如Hugging Face，也使得模型获得变得更加便捷，您可以在平台选择一个开源模型，免费下载并将其部署在您的本地环境或云环境中。
为了方便地将大模型集成到您的医疗工作流程中，您还需要在模型之上安装一个用户界面，例如对话机器人。通过对话机器人测试您的模型后，您可以评估该开源模型的基线性能是否能满足您的需求。如果不满足，您可以通过使用您的患者数据进一步微调开源模型，逐步训练模型，并将对话机器人开发成为您信任的智能医学助手。
我们的使命是通过在医疗领域普及生成式AI，帮助减少全球健康差异。在受邀为JHMHP期刊撰写的综述文章中，我们解释了为什么医学生成式AI的普及有内在动力在推动，并列举了生成式AI的一系列医疗邻域的应用。我们提出的生成式AI助手用于医学培训的初步概念也由JAMA子刊发表。我们还创建了一个更为现实的基准测试系统，用于系统地评估顶级大模型在大多数疾病诊断预测中的表现，该系统已在我们的JAMIA文章中展示。Nature 发表了我们关于如何在临床环境中有效部署并持续训练AI模型 的开创性模拟研究，该研究率先提出机器学习智能医疗系统（ML-LHS）单元的概念。通过为合作医院建立高效数据采集流程，我们帮助临床团队为几种重大疾病发表了机器学习模型文章。为了帮助更多的医生、医学生和医疗专业人员学习并在医疗领域使用生成式AI，我们创建了 这个生成式AI助手平台。我们的目标是帮助您快速开始，并最终创建专属自己的大模型智能医学助手，以优化您的医疗服务。
技术支持
如果您需要技术帮助，请告诉我们。我们很乐意帮助您选择和部署合适的开源大模型，包括安装一个对话机器人用户端，以便于测试您专属的大模型。我们还可以协助您微调大模型和开发对话机器人，让您逐步训练您的大模型智能医学助手。