中国工程院院士郑纬民: Token服务行业逐步形成三层架构体系|token

6月10日，由中国信息通信研究院云计算与数字化研究所、中国互联网协会算网云协同系统工作委员会举办的可信Token云服务研讨会在北京举办。会上，中国工程院院士郑纬民提出，随着大模型应用全面走向规模化落地，Token 服务已成为支撑人工智能产业发展的关键底座。整个行业不再局限于单一算力比拼，逐步形成分工明确、环环相扣的三层架构体系。
其中，底层生产层作为 AI产能的核心环节，主要负责实现Token“从无到有”，将物理算力资源转化为Token产出能力。这一层的竞争焦点集中在集群规模、服务稳定性、能耗控制以及模型适配效率，是整个Token服务体系的基础底座。

中层中转层则定位为资源枢纽与连接器，核心作用是整合市面上分散的算力与模型资源，对外提供统一的Token接入通道。目前该环节大多以资源整合、流量分发为主，技术门槛相对较低，行业内卷现象较为突出，核心竞争集中在上游资源抢占与渠道运营上。

顶层调度层则是AI基础设施的智能核心，也是技术壁垒最高的环节；依托专业评测能力与智能路由算法，实现Token价值最大化。该层级的竞争核心在于评测精度、路由调度效率以及跨基础设施的适配能力，同时也是引领整个行业标准制定、推动产业升级的关键。

在郑纬民看来，Token 服务三层架构是行业发展的必然形态，底层、中层、顶层唯有协同发展，才能释放 AI 产业的全部潜力。需要注意的是，产业规模持续壮大的同时，行业发展短板也逐步显现。服务体系统一标准缺位、各家服务商能力参差不齐等问题日渐凸显，不仅造成资源损耗、抬高运营成本，还影响整个生态的高效协同与良性发展，不利于Token服务产业行稳致远。（每经记者 杨卉）