大模型调用正在变成一笔越来越值得认真计算的账。IDC数据显示，2025年中国企业级MaaS市场Token调用量达到1944万亿，较2024年的114万亿增长约16倍。IDC在高增长情景下预计，2026年中国MaaS市场Token消耗量可能达到约40000万亿。调用规模持续放大，企业衡量AI服务的指标也更加具体，单位价格之外，性能、稳定性、工具链以及整体使用成本的重要性同步提升。

数字背后是一种很具体的开发现实。Agent执行一次任务，可能涉及上下文输入、任务拆解、多轮推理、工具调用、结果校验和失败重试，每个环节都在消耗Token。模型能力足够强，并不意味着应用能够以合理成本持续运行。

8月22日至23日，清程极智在深圳举办「爱拼·特种兵黑客松」活动。超过120名参赛者组成48支队伍，在48小时内完成AI产品开发。比赛特意加入了一项资源限制：参赛团队拥有规定的Token配额，后续补给与最终评分挂钩。活动将“有限Token配额”列为核心机制，并由AI Ping记录调用过程。

看似是一条赛事规则，真正被摆上桌面的，其实是AI应用商业化中的效率问题。

01｜Token被写进预算，AI应用开始计算单位产出

给Token设定额度，最直接的变化发生在开发过程。比赛中，每支队伍拥有初始资源，后续按固定时间开放Token补给。领取越多，对最终评分的影响越大。有人在补给点反复衡量还需要多少资源，也有团队提前耗尽额度，只能等待下一轮补给。原本隐藏在API后台的一串数字，由此进入产品设计和资源规划。

赛制刻意制造的稀缺感，实际上模拟了商业应用每天都会面对的API账单。尤其在Agent场景中，一次用户请求往往包含任务拆解、上下文输入、模型推理、工具调用、结果验证以及失败重试。执行链条变长后，某个环节的设计偏差会在规模化使用中持续累积，最终反映为调用成本和任务完成效率。

清程极智联合创始人师天麾认为，AI产品进入真实生产环境后，成本、输出质量、响应延迟和持续运行能力都会影响实际价值。有限Token规则希望把资源效率提前纳入开发阶段，让开发者在产品成型之前就开始考虑调用策略和运行成本。

现场反馈进一步说明，Token效率并非简单压缩调用次数。清程极智AI应用专家李浩瑞观察到，Agent架构设计会明显影响资源使用效率。上下文管理和缓存机制关系到重复输入能否复用；任务分层决定哪些步骤真正需要大模型参与；模型选择则需要结合任务难度、响应速度和成本预算进行匹配。复杂推理可以调用能力更强的模型，信息提取、格式处理等确定性较高的任务则有机会选择成本更合适的服务。

另一个值得关注的指标是Cache命中率。在长上下文、编程等输入量较大的应用中，Cache能够显著降低重复输入产生的成本。师天麾介绍，在主流模型定价体系下，Cache命中的价格通常明显低于常规输入；命中率的小幅波动，也可能放大未命中部分对应的实际支出。清程极智内部目前已将Cache命中率、整体任务完成度、模型推理精度等纳入评估与路由策略。

由此看，AI原生应用的工程逻辑正在多出一层“单位产出”的考量：模型能力决定产品能够完成怎样的任务，系统效率则决定这些任务能否以合理成本稳定运行。

02｜清程极智的答案：把效率做进训练、推理和调度

Token成为成本项，也解释了清程极智为何在这一阶段强化相关业务。清程极智成立于2023年底，核心团队拥有高性能计算和智能算力系统优化背景，目前聚焦AI Infra领域，业务重点位于底层算力与模型应用之间的系统软件环节。公司已形成八卦炉、赤兔和AI Ping三条核心产品线，分别对应大模型训练加速、生产级推理，以及模型服务评测与API调用。

三款产品面对不同环节，核心目标高度一致：提高单位算力能够交付的有效结果。八卦炉主要处理模型训练和计算系统效率，涉及并行、算子、通信等关键环节；赤兔承担推理侧的软件优化，并针对国产算力进行适配；AI Ping距离开发者和企业应用更近，通过模型服务评测、统一API和智能路由管理模型调用。

在底层推理侧，清程极智强调通过软件优化盘活已有算力。师天麾在采访中以DeepSeek部署为例介绍，市场上部分存量GPU和国产显卡无法原生支持FP8（8位浮点格式），若改用BF16（16位浮点格式），相较FP8会明显增加显存需求。在公司给出的一个具体方案中，通过软件方式实现FP4（4位浮点格式）后，部署所需机器由四台降至一台。相关数据对应特定模型、精度与硬件环境，其价值在于降低存量算力运行新模型时的部署门槛。

AI Ping处理的则是模型服务层的效率问题。市场上的大模型和API服务持续丰富，同一种模型也可能由不同服务商提供。价格、延迟、吞吐和稳定性存在差异，开发者自行完成测试、开户、账单管理和调用策略维护，管理复杂度会随着Agent调用增加而上升。

师天麾将AI Ping概括为“Token调度中枢”。平台聚合多家API服务，并利用智能路由综合成本、稳定性、延迟、吞吐、可用率等指标，为不同请求匹配更合适的模型和服务路径。清程极智当前的重点工作之一，是持续提高赤兔推理效率，同时优化AI Ping路由算法。

放回本次黑客松来看，赛制与产品形成了同一套效率逻辑。开发者需要判断Token应该花在哪个步骤，AI Ping负责模型和服务路径的选择，赤兔、八卦炉继续处理更底层的算力与训推效率。清程极智过去积累的系统优化能力，也因此找到了更贴近开发者的一种产品化落点。  

03｜多芯并存成为常态，AI Infra更考验系统能力

Token服务的供给能力，最终仍然受到算力约束。IDC认为，算力紧张短期内仍然存在，底层优化能力较强的厂商能够通过提高训练和推理效率获得更明显的竞争优势。同时，企业选择MaaS服务时正在综合考虑价格、性能以及工具链支持，单一Token报价已经很难完整反映实际使用成本。

对于国内AI Infra市场而言，国产算力的发展又增加了一层复杂性。国产AI芯片选择越来越丰富，驱动、通信库、算子库和开发工具之间仍存在差异。尤其对于国央企和大型客户，多家国产GPU共同部署已经出现现实需求，一套模型如何稳定运行于不同硬件环境，逐渐成为系统软件需要解决的工程问题。

赤兔承担了清程极智在多芯适配上的主要角色。按照师天麾的介绍，其目标是通过统一推理引擎管理不同国产显卡，同时针对具体芯片完成底层算子和编译优化。目前已有国央企客户使用赤兔统一管理多类显卡资源。规模进一步扩大后，问题还会进入集群层。

清程极智核心团队的相关技术积累可追溯至2021年，当时团队在青岛超算搭建“八卦炉”训练系统；此后参与深圳超算纯CPU架构的大规模推理优化，并于2026年在郑州超算智算中心完成国产开源模型的大规模训练，与此同时，清程极智联合海光完成海光算力集群大模型推理深度优化，执行GLM和Kimi大模型的Prefill任务的性价比已超越英伟达Hopper系列GPU。通信效率、稳定性和容错能力，是大规模集群释放实际性能的重要变量。这些项目也构成了清程极智在大规模算力系统领域的重要工程积累。

技术项目之外，生态协同同样影响AI Infra企业的规模化能力。清程极智目前已与多个智算超算中心、AI芯片厂商及AI应用方开展商业合作，同时也是众智FlagOS 2.0的23家核心共建机构之一。FlagOS 2.0由北京智源研究院、清程极智、清华大学、中科加禾、中科院计算所、澎峰科技、北京大学等23家核心机构共同完成，是面向多种AI芯片的统一开源系统软件栈重大版本升级。清程极智参与其中，重点之一是降低不同芯片环境下的软件适配和使用门槛，实现性能优化。

对于一家成立时间并不长的AI Infra企业而言，清程极智已经形成较为鲜明的市场标签：系统软件能力、国产算力适配与性能优化、大规模集群工程经验，以及向模型服务调度延伸的产品布局。产业链里的位置也决定了它需要连接多方：芯片厂商关注软件栈能否释放硬件性能，智算中心关心集群利用率，大模型企业要求稳定的训练和推理能力，开发者最终需要成本可控、体验稳定的模型服务。软硬件生态越丰富，中间系统层承担的统一适配、优化和调度价值越突出。

师天麾判断，AI Infra下一阶段竞争会更加看重系统优化深度、国产算力适配以及超大规模集群治理。清程极智正在押注的，正是这一层效率空间。

结语

48小时黑客松设置的Token限制终究会结束，真实商业环境里的资源约束却长期存在。随着AI开发工具成熟，完成一个Demo已经变得越来越容易。产品进入企业系统以后，任务成功率、响应延迟、Token消耗、模型选择和算力利用率共同决定运营成本。一套Agent面对几十名测试用户和面对成千上万名真实用户，背后对应的是完全不同的经济模型。

清程极智将Token效率写进比赛规则，某种程度上也是把AI Infra长期研究的问题放到了开发者面前。AI Ping管理模型服务与调用路径，赤兔提高推理效率并适配多类算力，八卦炉继续承担训练和计算系统优化，三条产品线共同围绕效率形成连接。

1944万亿Token已经证明模型调用正在快速成为一项规模化业务。下一步真正值得观察的是，每一枚Token最终能够完成多少有效任务。当模型调用逐渐成为企业的长期成本项，单位算力能够稳定产出多少有效结果，也将成为衡量AI基础设施商业价值的重要尺度。