10月16日,商汤发布升级版医疗健康大语言模型——大医。
大医内嵌医学“场景集市”,包含13个预设场景,并支持提示工程自定义、长程记忆存取和医学知识库查询总结等个性化功能,帮助医疗健康产业链上下游机构根据实际需求打造专属医疗健康大模型,推动行业数智化转型。
目前商汤已与郑州大学第一附属医院、上海交通大学医学院附属瑞金医院、上海交通大学医学院附属新华医院等机构开展合作,让大医在具体医疗健康场景中落地。
据介绍,数据层面,大医以千亿参数规模的大语言模型“商量”为基模型。大医利用超200亿token的高质量医学知识数据训练而成,数据范围涵盖医学教材、医学指南、临床路径、药品库、疾病库、体检报告等,以及病历、医患问答和对话等。高质量的训练数据,助力保证大医回答的可靠性和准确性。算力储备层面,商汤大装置SenseCore上线GPU数量已提升至约30000块,算力规模提升至6 ExaFLOPS。
在落地部署能力方面,为了满足差异化部署需求,商汤推出多个大医版本,参数量从千亿到百亿级别不等,既可以公有云服务方式为合作机构提供服务,也可帮助合作机构高效完成模型私有化部署。借助创新的模型量化技术,可降低大医落地部署的硬件需求,降低了医疗健康大模型的部署门槛,让更多合作机构可以借助大医优化其现有业务流程。