数字系统
企业如何选择本地AI:什么该在哪里运行?
企业本地AI实用指南:判断哪些任务留在设备上、哪些需要云端模型,以及如何安全地管理这条边界。
企业采用本地AI的正确方法,应从工作本身出发。当工作依赖就近数据、需要快速响应、必须在网络受限时继续进行,或者敏感到有必要在受管设备上处理时,本地处理最为合适。当任务需要更强的模型、弹性产能、广泛的外部知识或集中化服务时,云端AI通常更合适。大多数组织不应对所有事情只做一种选择,而需要一套路由策略,把每项工作负载分配到合适的位置。
实际决策取决于工作本身,而不是模型有多新。先从数据敏感度、所需能力、延迟、可用性、成本透明度和运营控制入手。然后测试最小的可用工作流。只要权限、日志和故障行为都清晰明确,混合架构就可以把部分背景信息和常规处理留在本地,而把更复杂的推理交给云服务。
微软所说的混合智能是什么意思
在其 Windows Experience Blog公告 (2026年10月7日发布)中,微软将Windows描述为这样一个平台:智能体可以在合适时本地运行,在需要时调用云端。微软将其称为“混合智能”,由本地模型、路由、运行时能力和设备硬件提供支持。这些是微软的说法和产品方向,并不能证明所有企业工作负载都应迁移到PC上。
微软还表示,Microsoft Execution Containers现已在Windows 11上全面推出。根据公告,这些容器可以执行策略,规定智能体可以访问哪些文件和网络。微软将隔离与智能体身份和可管理性并列:限制智能体的访问范围,将其活动与用户活动区分开,并把治理与组织的管控措施相连接。
同样的区分也适用于Copilot。微软表示,本地上下文、本地操作和本地模型都需要用户授权,并在需要时提供云端智能。对企业而言,这把问题引向了正确的方向:不是抽象地问“本地还是云端?”,而是问“这项任务应允许使用哪些上下文、操作和模型?”
本地AI在企业中适合用在哪里
当距离近能带来真实的运营收益时,本地处理才有意义。设备上可能已经存有任务所需的文件、应用状态或传感器数据。把第一步处理留在设备上,可以减少不必要的数据传输,并降低交互对网络往返的依赖。在网络连接不稳定时,它也能支持有限度的运行。
合适的候选任务是范围窄、可重复、输入输出边界清晰的工作。例如:对已在受管电脑上的文档进行分类、提取字段供人工审核、在经批准的本地知识库中搜索、汇总工作笔记,或协助完成设备层面的工作流。这些只是工作负载类型的示例,并不保证某个模型一定能达到所需质量。
本地并不自动意味着私密、安全或便宜。数据仍可能因权限过大、工具访问不安全、日志不完善、输出被复制或终端未受管理而泄露。硬件、部署、模型更新和技术支持同样有成本。业务论证应覆盖整个系统,而不只是省下的云服务费用。
什么时候云端AI是更明智的选择
当任务超出受管设备的算力或内存、需求波动剧烈,或者团队需要一项集中维护的统一服务时,云端AI依然很有价值。它可以简化对更强大模型的访问,减少在整批设备上分发模型文件和运行环境的需要。集中运营还能让版本控制和监控更加一致,不过这些好处取决于具体服务及其实施方式。
依据明确的标准而不是假设来做选择:
数据: 需要哪些信息?来自哪里?是否允许离开设备或所在区域?
能力: 经批准的本地模型能否达到实测的质量门槛?还是任务需要更强的云端模型?
速度: 在真实的网络和设备负载下,哪种方案能满足端到端响应目标?
连续性: 当网络、云服务或本地加速器不可用时,应如何处理?
经济性: 设备、部署、支持和能耗成本,与服务使用费和数据传输成本相比如何?
控制: 组织能否授予权限、隔离操作、识别执行操作的智能体、保留有用的日志并撤销访问?
当任务的上下文变化时,其路由也可能随之变化。本地模型可以准备材料或做脱敏处理,而云端模型负责困难的推理。反过来,云端应用也可以在用户批准后,才把某个设备操作交给本地执行。这条边界应当经过设计并清晰可见,而不是隐藏在供应商的默认设置中。
在选择产品之前先制定路由策略
从输入到操作,完整梳理一条工作流。标出每个数据源、模型调用、工具、用户审批和存储的输出。分别评估错误回答的影响和未经授权操作的影响。一份只提供文字建议的草稿,与一个会编辑文件、发送消息或修改业务系统的智能体,风险特征完全不同。
接下来,定义三条路径:本地、云端和停止。当没有任何环境获得批准、置信度过低、缺少必要上下文或请求的操作超出策略范围时,“停止”路径必不可少。明确路由失败时用户会看到什么。从本地静默切换到云端可能会破坏数据处理方面的决定,而从云端静默切换到较弱的本地模型则可能损害质量。
上线前进行有代表性的评估。衡量任务质量、延迟、资源占用、故障恢复情况和运维人员的工作量。不仅要检查模型的输出,还要审查智能体实际申请的权限。如果工作流会执行操作,就要测试隔离机制,并确认记录能够说明智能体做了什么。即使最终技术栈不限于Windows,微软对隔离、身份和可管理性的强调,在这里也是一份有用的检查清单。
最后,明确责任归属。安全部门应审批访问边界,运营部门应负责监控和恢复,流程负责人应定义可接受的结果。采购部门需要一个可比较的成本模型。如果组织正在决定组件应自建、采购还是集成,Vexol的 “自建、采购还是连接”框架 提供了梳理这一选择的实用方法。
本地AI一定比云端AI更安全吗?
不一定。本地处理可以减少部分数据传输,但安全性取决于终端安全、权限、隔离、模型来源、日志记录和运营纪律。请用同一套管控标准,比较完整的本地方案和云端方案。
每条AI工作流都应同时支持两条路径吗?
不必。混合路由会增加工程和治理工作量。只有当实测收益足以证明这种复杂度值得时才使用。对于稳定、边界清晰的任务,固定的本地路径或固定的云端路径往往更清楚。
返回博客