曾被限制使用 AI 的企业现可拥抱本地 AI 解决方案
昨晚,主流 AI 产品如ChatGPT和Claude等突然宕机,许多用户无法登录和使用这些服务,引发了广泛关注,猜测原因可能是云服务商的基础设施出现了大规模故障。这让那些急于实现 AI 转型的传统企业陷入了尴尬境地。尽管 AI 模型和智能代理的流行让人们对其潜力充满幻想,但在实际部署过程中却遇到了许多困难。
首先,越优质的模型越受欢迎,但用户激增导致系统不稳定。当复杂的业务流程依赖于云端 API 驱动的智能代理,网络波动或者限流可能会中断任务,造成重复劳动,这对追求稳定的企业环境是不可接受的。其次,虽然老板们鼓励团队使用 AI,但在大量使用后,企业又担心成本飙升,尤其是在构建满足需求的智能代理阶段,token 消耗已经非常庞大,却未见显著成效。最后,对于医药、金融和制造等特定行业而言,隐私和合规要求使得他们无法使用常规的在线 AI 产品和云 API。
解决方案是本地 AI。最近,北京大学的元空智能与惠普合作,将开源的大模型和智能代理框架,连同针对不同场景的专有知识,整合到本地设备中。这一解决方案为企业提供了一整套本地部署的选择,其中模型和框架由元空 AI 提供,算力部分则由惠普支持,涵盖了从笔记本电脑到高性能工作站的多种形态。
这种结构化的解决方案对于普通 AI 用户来说或许显得高成本且不够便利,但对于那些因为数据安全要求而无法轻易使用 AI 的行业,这种投资反而成为了优势。一次性的资本支出让成本具备可预测性,且后续 token 在本地生成,确保了数据安全性。这样的本地 AI 不再是技术的妥协,而是许多价值巨大的行业追求的可行路径。
惠普的高管指出,许多企业在使用云端 AI 时面临双重成本:一是明显的 token 消费成本,二是潜在的商业机密泄露风险。对于对数据合规性极为敏感的行业,使用云端服务的企业逐渐改变了态度。
元空 AI 和惠普推出的本地推理解决方案,用一次性资本支出替代了持续的云端订阅费用,使得后续本地推理只需支付电费,边际成本几乎为零。以一个规模为百人的团队为例,每月的云端 API 开销可能高达数十万元,若转向本地设备,其采购成本很快就能通过节省的 API 费用抵消。
在发布会上,元空 AI 的联合创始人展示了本地模型在断网状态下的高效工作能力,充分展现了本地 AI 的潜力和应用价值,这标志着传统行业在数据安全和成本控制方面获得了新的发展机遇。
发表评论