扫描打开手机站
随时逛,更方便!
当前位置:首页 > 智创未来

香港理工大学发布FP8低比特训练方案,GenAI训练提速超20%

时间:2025-10-24 12:03:10 来源:界面新闻 作者:界面新闻

香港理工大学发布FP8低比特训练方案

近日,香港理工大学人工智能高等研究院(PolyU AI Advanced Institute, PAAI)研究团队宣布取得生成式人工智能(GenAI)领域的重大突破。10月23日,该团队正式发布全球首创的“端到端FP8低比特训练全套方案”,标志着基础模型训练技术迈入全新阶段。

技术突破:FP8精度重构训练范式

传统生成式AI模型训练普遍采用BF16精度格式,而PAAI团队通过创新算法架构,首次实现FP8精度下的端到端稳定训练。实验数据显示,该方案较BF16训练模式具有显著优势:训练速度提升超过20%,显存峰值占用减少达12%。这一突破不仅降低硬件资源需求,更为大规模模型训练开辟了高效路径。

临床应用:医疗大模型加速落地

在技术转化方面,研究团队已与复旦大学附属华山医院、香港伊利沙伯医院等顶尖医疗机构建立战略合作。基于FP8方案的医疗基础大模型正在推进多中心临床验证,涵盖疾病诊断、影像分析等核心场景。这种产学研深度融合的模式,为AI医疗技术的标准化落地提供了创新范本。

行业影响:重新定义训练标准

业内专家指出,FP8训练方案的推出将促使全球AI研发机构重新评估精度与效率的平衡点。随着算力成本持续攀升,该技术有望推动生成式AI从实验室走向规模化商业应用,特别是在资源受限的边缘计算场景中展现独特价值。

此次突破再次印证了香港理工大学在人工智能基础研究领域的领先地位。研究团队表示,将持续优化FP8生态体系,并探索其在自动驾驶、智能制造等领域的跨界应用。