寒武纪与摩尔线程成功适配智谱GLM-4.6大模型

2024年9月30日，国内人工智能领域迎来重要进展——智谱科技正式发布并开源新一代大语言模型GLM-4.6。该模型在Agentic Coding（智能编码）等核心能力上实现显著突破，其代码生成能力已达到国际领先水平，可与Claude Sonnet 4模型对标。

在硬件适配层面，寒武纪成为首个实现GLM-4.6国产AI芯片部署的企业。其自主研发的AI芯片采用FP8+Int4混合量化技术，成功完成推理部署，这标志着国内首次实现FP8+Int4模型-芯片一体化解决方案的商业化投产。该方案通过混合精度计算，在保持模型精度的同时显著提升推理效率。

与此同时，GPU领域创新企业摩尔线程宣布完成重要技术突破。基于vLLM推理框架，该公司成功实现GLM-4.6在其新一代GPU上的适配。测试数据显示，该GPU可在原生FP8精度下稳定运行GLM-4.6，为国产大模型提供了高性能的硬件支撑。

此次适配标志着国产AI生态的进一步完善。寒武纪与摩尔线程分别从AI芯片和GPU两个维度，为GLM-4.6提供了从训练到推理的全栈解决方案。行业专家指出，这种软硬协同的适配模式，将有效推动国产大模型在金融、医疗、智能制造等领域的规模化应用。

据技术团队透露，GLM-4.6的开源版本已同步更新适配文档，开发者可通过智谱官方平台获取寒武纪芯片和摩尔线程GPU的部署指南。这一举措预计将加速国产AI技术栈的普及，为构建自主可控的人工智能产业生态奠定基础。