去中心化人工智能的推动者

近几个月来,随着越来越多的人开始探索 Web3 和生成式人工智能的交叉点,去中心化人工智能重新受到重视。 虽然大多数人都认为去中心化可以给人工智能带来积极的好处,但具体的技术路径遇到了主要障碍。

例如,虽然我们都认为去中心化计算网络(DePIN)可以帮助平衡大型科技平台主导的 GPU 上涨游戏,但现实情况是大型基础模型的预训练和微调要求需要具有大规模的中心化 GPU 拓扑。通信总线。

同样,去中心化的数据网络似乎是一个明确的想法,可以缓解大公司日益中心化的数据。 但在实践中,解决该问题的尝试却收效甚微。

在考虑去中心化人工智能时,重要的是要认识到人工智能往往越来越向中心化架构发展,这使得任何去中心化工作都极具挑战性。 为了让去中心化生成人工智能克服这些自然挑战,它需要依赖或影响四个关键趋势:

  1. 为了使去中心化人工智能变得可行,开源生成式人工智能需要变得更加主流
  2. 去中心化人工智能只是一个推理游戏,仅此而已
  3. Web3 计算和数据基础设施需要扩展以满足基础模型的需求
  4. 基础模型需要进行调整以在去中心化的基础设施中运行。 大多数情况下,通往去中心化人工智能的每条道路都取决于这四种想法的风格。

人工智能作为中心化力量

在技​​术史上,有些趋势从根本上向中心化市场发展,而另一些趋势则是更加开放和平衡的市场。 移动技术是向拥有两个主要参与者的中心化市场发展的技术的典型例子。

这主要是由于硬件、软件、研究、供应链和分销方面的复杂要求,只有少数公司能够掌握。 其他趋势,例如数据库,最初是 Oracle、IBM 和 Microsoft 等公司的中心化力量,后来发展成为拥有许多开源参与者的竞争更加激烈的市场。

人工智能是历史上所有技术中最中心化的 DNA 之一。 这显然是由于计算或数据等领域的依赖性造成的,这些领域从根本上来说也是中心化的。 从这个角度来看,很自然地预计人工智能市场将由少数公司主导。

任何中心化市场都可以使用制衡力量。 从这个意义上说,人们很容易认为区块链可能就是这个元素。 虽然这一结论在方向上是正确的,但要实现这一结论,还需要外部市场力量的推动、开源生成式人工智能的主流采用以及 Web3 基础设施和基础模型的演变。

开源生成人工智能需要成为主流

没有开源的生成式人工智能,就没有去中心化的生成式人工智能。 开源生成式人工智能的创新浪潮确实令人惊叹,但只有少数公司,如 HuggingFace、Meta、Mistral 或 Stability,是 OpenAI、Anthropic 或 Google 的可行替代品。

单引号浅绿色去中心化人工智能将专注于具有开源基础模型的推理工作流程

具有强大安全和隐私限制的企业应用程序,以及受监管行业中的人工智能初创公司,似乎是开源生成人工智能的强劲增长载体。 在这些场景中,Web3 AI 基础设施可以成为可行的替代方案。 如果我们假设开源生成式人工智能将获得一定程度的主流采用,那么下一个挑战是了解生成式人工智能解决方案生命周期中的哪些用例非常适合去中心化基础设施。

去中心化人工智能是一种推理游戏

简单来说,生成式人工智能模型的生命周期可以分为三个主要阶段:预训练、微调和推理。

前两个与让模型根据数据概括知识有关,而推理则与模型输出的预测有关。 基础模型的巨大规模及其复杂的计算要求使得去中心化基础设施对于预训练和微调场景来说完全不切实际。

这些工作流程需要通过高性能通信总线连接成百上千个 GPU,这些 GPU 可以在数周或数月内摄取数据并重新计算模型中的权重。 更不用说预训练和微调所需的数据通常存储在云数据中心中,导致将其转移到去中心化基础设施的成本完全过高。

对于去中心化生成人工智能来说,推理是一种更为实用的场景,并且可以说,这是唯一可以在当前技术状态下发挥作用的场景。 从市场角度来看,推理工作负载在生成型人工智能收入中也占较大比例。 既然我们知道去中心化 AI 将专注于具有开源基础模型的推理工作流程,我们需要弄清楚哪种类型的 Web3 基础设施可以支持这些用例。

Web3 基础设施需要发展

当前一代的区块链运行时并未设计用于运行大型基础模型,即使对于推理用例也是如此。 为了应对这一挑战,肯定需要针对更大、更复杂的计算工作负载进行优化的新区块链运行时。 链下推理计算是一个很好的中间立场,但它并不能完全解决生成人工智能的中心化问题。

基础模型需要变得更小

去年,微软根据其在名为 Phi 的基础模型上的工作以及标志性论文“Textbooks is All You Need”创造了“小语言模型”一词。 小Phi只有3B参数,并在一系列计算机科学教科书上进行了预训练,它能够在数学和计算机科学任务中超越70B模型。

Phi 的工作表明,更小、更专业的模型是采用生成式人工智能最重要的步骤之一。 就像 Web3 基础设施需要扩展以采用基础模型一样,SLM 趋势可以使模型在 Web3 基础设施上运行更加实用。 在不久的将来,我们不太可能看到运行万亿参数模型的 Web3 基础设施,但 2B-3B 绝对是可能的。

通往去中心化人工智能的艰难但可能的道路

去中心化生成人工智能的想法在概念上微不足道,但实际上非常困难。 人工智能自然地发展为一种日益中心化的技术,任何去中心化的努力都是一场艰苦的战斗。 开源生成式人工智能模型的主流采用对于去中心化人工智能基础设施的可行性至关重要。 同样,生成式人工智能的当前状态表明,去中心化人工智能的大多数初始用例将侧重于推理,而不是预训练或微调。 最后,为了使去中心化人工智能实用化,Web3 基础设施需要扩展几个数量级,而基础模型需要变得更小并且更适应去中心化环境。

这些因素的结合代表了实现去中心化生成人工智能的最佳路径。 这条道路将极其困难,但至少目前来说,肯定是可能的。

本杰明席勒编辑。

资讯来源:由0x资讯编译自COINDESK。版权归作者Jesus Rodriguez所有,未经许可,不得转载
提示:投资有风险,入市需谨慎,本资讯不作为投资理财建议。请理性投资,切实提高风险防范意识;如有发现的违法犯罪线索,可积极向有关部门举报反映。
你可能还喜欢