从「网络通不通」到「模型跑不跑得动」——企业 IT 的关注点正在迁移。本文梳理三条变化线:算力下沉、身份统一与数据边界重建。
过去十年,企业 IT 建设的核心问题是连通性:网络要通、带宽要够、无线要稳。这两年开始出现新的关注点——算力能不能满足模型运行,数据能不能留在该留的地方。
变化一:算力从集中走向混合
训练任务仍然集中在少数几个地方,但推理正在下沉。原因是推理对时延敏感、调用量大,而且往往涉及业务数据。
- 验证阶段用公有云 GPU,按小时计费,试错成本低。
- 稳定运行后把高频推理迁到本地一体机,数据不出内网且单次成本更低。
- 训练与微调仍留在云上或集中机房,按需扩缩。
这带来一个新问题:GPU 服务器的功耗与散热要求显著高于普通服务器,不少老机房需要先做供电与制冷评估。
变化二:身份成为基础设施,而不是应用功能
过去每个业务系统自己管账号,现在越来越多企业把身份抽出来做成统一底座。原因很实际:模型与智能体要访问数据,就必须知道「当前是谁、有什么权限」。没有统一身份,AI 应用很难安全落地。
变化三:数据边界需要重新划定
- 可出内网:走公有云 API,成本低、迭代快。
- 脱敏后可出:在本地做脱敏与过滤,再送出去处理。
- 不可出内网:本地部署模型与推理环境。
把这三类提前分开,比事后补救容易得多。
对规划的建议
如果今年要改造基础设施,建议在方案里预留三件事:机柜的供电与散热余量、统一身份体系的接入点、内网到云上的可控通道。这三项后期补做的成本,远高于前期预留。


