在2025世界人工智能大会开幕之际，四位国产AI芯片大佬出现在阶跃星辰Step 3模型发布会的圆桌论坛上，沐曦创始人、董事长兼总经理陈维良，天数智芯董事长兼CEO盖鲁江，燧原科技创始人、董事长兼CEO赵立东和壁仞科技创始人、董事长兼CEO张文首度罕见同台，围绕“大模型与芯片的协同创新和应用落地”展开了对话，就国产大模型与AI芯片的协同痛点，以及如何让中国的开源模型和AI芯片在推理大场景下有更好的爆发进行了深层分析和前瞻研判。
大模型协同创新尚存重要痛点
尽管国内大模型和AI芯片行业发展如火如荼，其中大模型已逐步推进至应用于各大领域，而AI芯片则取得不断突破提升，但两者之间的真正协同有待提高，尚存在一些痛点待解决。
上海天数智芯半导体股份有限公司董事长兼CEO盖鲁首先对国内大模型产业的发展给予充分肯定。他表示，从芯片厂商来看，2025年从年初到现在，确实芯片在大模型应用中的实际出货量在快速增长。尤其是在一体机市场，从年初到现在已是快速发展和扩张的过程，其中核心原因是应用开始快速发展，真正做到了芯片、模型助力场景应用，而场景反馈回来的数据和信息又推动了大模型与芯片的进一步迭代，从而形成了良性的正向循环。
“未来在大模型应用过程中，芯片需要对场景针对性提升，以及根据应用情况进行具体迭代和改进。这是一个非常确定性的方向。”他说。
对于大模型应用的痛点，上海壁仞科技股份有限公司创始人、董事长剑CEO张文称，“从芯片端来看，首先是成本。伴随着使用成本大幅上升，工程上迫切需要高性价比的方案降低大模型的推理成本，这可能需要与产业链合作伙伴共同努力。其次是供应链。对国产AI芯片厂商而言，要想更好地服务于国产大模型，要确保充足的算力供应。未来先进AI芯片的产能对于国内AI持续健康发展非常关键。而国内芯片企业都有同样的痛点，需要解决掉。”
他还指出，AI的三个要素，第一个数据、第二算法，第三算力。中国在数据、算法方面并不落后，但算力需要一些时间追赶，相信国产芯片有能力通过时间实现逐步追赶。
在上海燧原科技股份有限公司创始人、董事长CEO赵立东看来，大模型的真正落地是从今年春节开始，接下来会有另外一波更大规模的大模型推理落地，原因是基于开源的大模型进行二次、三次开发的时候，将会有更多针对行业和应用场景的蒸馏版出现。
至于这一进程中的痛点，赵立东表示，“这牵扯到复杂的国际背景，但降低成本非常重要。无论是大模型还是AI芯片企业，如果想长期、可持续性发展就要实现从技术产品到商业化闭环，也就是既降低成本又能争取盈利，同时需要加强协作来实现更高性价比，以更好的效率或者商业利益。而这也是我们未来的目标。”
对此，沐曦集成电路（上海）股份有限公司创始人、董事长兼总经理陈维良持有类似观点。他表示，大模型的创新应用和爆发有两方面比较重要。首先是大模型的能力。如果大模型有很多事情做不了，就会被用户放弃使用。其次就是使用成本。目前，很多先进的技术既降低了成本又保持了能力，包括提升对多模态的处理能力。这对企业而言，能够真正做到降本增效和解决相关问题。
“通过算力网上模型应用，形成一个集团产业链，真正形成对行业、企业有价值的解决方法，或者整体解决方案，这样能够为企业带来降本增效的价值，一定会形成比较爆发式的应用。”陈维良说。
多重路径支撑行业应用爆发
近年来，整个大模型算力正从训练端往推理端快速转移，而未来无论在C端还是B端或将出现各自非常重要的爆发时期，其中国内的开源模型和AI芯片将发挥举足轻重的作用。
张文表示，“国产大模型对国产芯片的发展特别重要，因为阶跃、千问、Deepseek等国产大模型的水平和国外差不多，但国产芯片与国外的距离还比较大。而设计芯片是挺痛苦的事情，从开始设计到做出来需要两年以后，所以一定要有前瞻性才能把芯片设计好。对此，适配国产大模型公司，对我们的产品定义有非常大的帮助，其中包括针对大模型的超长文本、MOE架构、多模态、大规模推理等特性需求进行调整。”
他还称，国内大模型的发展，从某种意义上是牵动国内芯片的设计发展。
陈维良则指出，现在国产芯片受到供应链影响，芯片发展路线图或产品特点与国际芯片并不一样。基于此，阶跃星辰打造了step3，对存算尤其存算比等一些芯片特性进行了模型优化，这一举措非常具有代表性，也指出了很好的方向，即芯片和模型之间要有更紧密的合作。
“但还要往前走一步的是，芯片企业和模型企业在更深度的算子优化上做更多事情以及更开放，由此形成更高效的模型，同时再跟应用层以同样的方式进行深度合作，尤其是利用中国的产业链和数据优势，真真正正打造立足本土，具有中国特色的自主自强解决方案。”
对于如何让模型和芯片配合得更好，盖鲁江认为，这需要国产芯片实现两大突破。
首先是体量。体量一定要上去，只有数量的积累才能获取更多的经验。
其次是降本。第一，通过软件实现模型优化和推理应用上的降本；提升芯片的使用效率。对芯片厂商而言，这两方面需要加强突破，包括如何把芯片的使用效率做得更高，功耗做得更低，良率做得更高，把真正推理场景中token的成本等降低，最终让利给最终用户。第二，深入到应用场景里面去，因为不同的应用场景对模型和芯片要求不太一样，需要提出一揽子的解决方案。第三，通过组建行业联盟，例如本次大会上成立的“模芯生态创新联盟”，打通芯片到整机厂商，再到模型厂商，再到最终应用场景的整个链条，建立一套统一的规范和标准，这样可以省去大量的前期投入和适配成本。
“通过三方面实现降本增效，就能达到真正把模型用起来的最终目的。”他强调。
在赵立东看来，国产AI芯片的面前一直有两座大山，一个是高端芯片制造，另外一个就是生态。而大模型和芯片的合作一定会涉及生态，这需要双向奔赴。大模型特别是高性能推理，现在爆发时间点的机遇是大模型和芯片如何深度优化。而基于燧原科技的经验，以及与战略合作伙伴经过几年磨合，其产品对标英伟达的芯片，性价比可以做到两倍到三倍。
“此外，我们一直强调算力普惠。但现在既不普也不惠，这恰恰是国产模型跟国产芯片合作的重要契机。我们期待未来国产大模型与AI芯片企业非常深入的加强合作，实现低成本、高性能等特性，从而用国产算力支撑大模型的长远发展目标。”赵立东表示。
