新软件或可减少人工智能对大型数据中心的依赖

过去三年，人工智能在日常任务中的应用迅速增长。人工智能模型在处理敏感数据时愈发有用，例如患者记录、客户请求或任何与工作相关的机密文件。

每次要求人工智能执行任务时，查询先从用户电脑本地发起，随后发送至“云端”，人工智能在那里利用强大硬件生成答案，这一过程称为推理。最终答案被发回用户本地电脑。

如今，完成这一任务需动用巨大数据处理能力，这离不开庞大数椐中心——这些中心也是训练ChatGPT、Gemini和Claude等人工智能模型所必需的。这意味着目前推理和训练几乎完全由大型科技公司掌控。

即插即用：让分布式人工智能变简单

现在，来自洛桑联邦理工学院（EPFL）计算机与通信科学学院分布式计算实验室（DCL）的研究人员戈蒂埃·沃龙、若瓦尼·里兹克和拉希德·格拉乌伊发布了新软件，允许用户下载开源人工智能模型并在本地使用，无需借助云端回答问题或完成任务。

这款名为AnywaySystems的新软件，能将本地网络中的分布式机器协调整合成一个本地集群。它采用稳健的自稳定技术优化底层本地硬件的使用，反驳了“部署人工智能模型需要庞大数椐中心”这一普遍看法。

它可在本地机器网络上仅用半小时完成安装，且数据不会离开网络，保障了隐私与主权。像GPT-120B这样的大型人工智能模型——OpenAI最新最大的开源模型——可在几分钟内下载并通过AnywaySystems部署，仅需不超过4台机器（每台配1个商用GPU，成本约2300瑞士法郎），而非此前认为必需的昂贵专用机架机箱（成本约10万瑞士法郎）。

“多年来，人们一直认为没有大量资源就无法拥有大语言模型和人工智能工具，数据隐私、主权与可持续性会因此成为牺牲品，但事实并非如此，更智能、更节俭的方法是可行的，”DCL负责人拉希德·格拉乌伊教授说。

隐私、主权与可持续性

当用户数据被发送至云端，围绕安全与隐私存在关键问题，尤其是这些数据是否会被用于进一步训练或改进人工智能模型。此外，依赖大型全球云服务商提供人工智能服务会引发人工智能主权问题，因为这会将关键国家资产——数据、算法和基础设施——的控制权从国内实体转移给跨国公司。

此外，在云端响应人工智能查询所需的巨大算力——据估计推理占人工智能相关算力的80%至90%——正推动着消耗巨量能源和水的人工智能大型数椐中心快速扩张。

格拉乌伊解释说：“AnywaySystems在推理方面表现出色，也可能有助于减少训练所需资源。试点测试显示，当模型下载后在分散的本地机器上运行，而非大型云端时，我们可能会略微增加一点延迟——即响应提示的时间——但准确性不受影响。”

从区块链到人工智能？

“我们说AnywaySystems简单、可扩展且安全，”格拉乌伊继续说道。DCL多年前就开发了早期版本的Anyway算法，该实验室研究人员长期专注于分布式计算、容错、优化与隐私。

DCL的早期算法是为区块链、加密货币等技术应对其他挑战而开发的现有方案。三年前，格拉乌伊及其同事想到将自稳定技术应用于人工智能，发现二者近乎完美契合。

格拉乌伊说：“作为一个实验室，我们在理论与实践结合层面同时研究稳健分布式计算与机器学习，这可能是独一无二的。我们将注意力转向将自稳定技术用于人工智能。它们奏效了。我们想，不断优化学吧，结果效果更好。最终结果好得令人难以置信。”

展望未来——在家拥有自己的AI

最近，AnywaySystems入选由瑞银支持的创业启动平台AI赛道的六家首届受助者之一，这是瑞士首个专注人工智能的资助项目。

该软件已超越原型阶段，目前在瑞士各地企业和行政部门（包括EPFL校内）进行测试。早期用户正在评估其在速度、准确性和质量方面的各种权衡。

EPFL研究中心与技术平台协理副校长大卫·阿蒂恩萨教授说：“AnywaySystems代表了一种有趣且有吸引力的技术，它在优化资源使用的同时确保数据安全与主权，或将成为人工智能领域的颠覆者。”

“其可持续方法与EPFL先进计算平台的需求完美契合，将在塑造EPFL未来人工智能发展轨迹中发挥关键作用——通过部署Apertus等新大语言模型，以更少资源实现目标。”

目前，AnywaySystems无法在单台家用台式机或笔记本上运行，但计算史表明优化往往进展迅速。

“你的手机包含的信息量之大，放在几年前难以想象，而现在你用它处理一切。它能同时击败100位顶尖国际象棋冠军，而当年击败卡斯帕罗夫所需的计算机却非常庞大。”

格拉乌伊总结道：“历史告诉我们事物就是这样发展的。我们的意思是，在人工智能方面，我们将能实现一切本地化处理。我们可以下载选择的开源人工智能，根据需求调整其应用场景，掌控所有环节的将是我们，而非大型科技公司。”

AnywaySystems与谷歌AIEdge有何区别？

谷歌AIEdge旨在在手机上运行，针对非常特定且小型的谷歌自制模型，每位用户运行的模型受手机容量限制。它没有分布式计算功能，无法以可扩展且容错的方式，为同一组织内多用户共享的同一大型强人工智能模型提供支持。而Anyway系统仅需几块GPU就能处理数千亿参数。

AnywaySystems与Llama或msty.ai等其他允许运行本地大语言模型的解决方案有何区别？

这些方法大多帮助在单台机器上部署模型，而这构成了单一故障点。要部署最强大的模型，它们需要购买并投入非常昂贵的机器，基本等同于数椐中心里的机器。因此，如果你只有单台商用机器，上述方案适用于部署小型模型。如果你有多台商用机器，用上述方案无法高效组合来部署大型模型，即便能，也需要团队管理维护系统。而Anyway系统透明、稳健且自动地完成这一点。在Anyway系统中，机器故障、离开或加入网络的情况对用户是透明的，仅延迟（响应请求的时间）略有变化。

人工智能模型在不断改进和接收数据。这些改进如何在本地体现？

由于Anyway系统允许任何开源人工智能模型在本地部署，用本地敏感数据为其输入变得完全安全可接受，从而将控制权交还给用户。