AI 的奥本海默时刻,IO.NET 如何革新去中心化人工智能计算市场

ChainCatcher 精选
2024年6月14日 19:15
收藏
在这个日益由 "富人 "和 "穷人 "组成的世界里,IO.NET 最终将 "让互联网再次开放"。 

作者:Raghav Agarwal、Roy Lu,LongHash Ventures

编译:Elvin,ChainCatcher

 

AI 

人类正处于一个AI奥本海默时刻。

埃隆·马斯克指出:“随着我们技术的进步,确保 AI 服务于人民的利益,而不仅仅是权力者的利益,这是至关重要的。人民拥有的AI提供了一条前进的道路。”

在与加密货币的交汇处,AI可以实现自身的民主化。从开源模型开始,然后是人民的AI,由人民,为人民服务。虽然Web3 x AI的目标是高尚的,但其实际采用取决于其可用性和与现有AI软件栈的兼容性。这就是IO.NET独特方法和技术栈发挥作用的地方。

IO.NET的去中心化Ray框架是向web3及更广范围推出无需许可的AI计算市场的特洛伊木马。

IO.NET在带来GPU丰富性方面处于领先地位。与其他通用计算聚合器不同,IO.NET通过重写Ray框架,将去中心化计算与行业领先的AI栈桥接起来。这种方法为在web3内外的更广泛采用铺平了道路。

AI民族主义背景下的计算能力竞赛

在人工智能栈中,对资源的竞争愈演愈烈。过去几年,人工智能模型大量涌现。在Llama 3发布后的几小时内,Mistral和OpenAI发布了他们前沿人工智能模型的新版本。

人工智能栈中正在进行资源竞争的三个层次是:1) 训练数据,2) 先进算法,3) 计算单元。算力允许人工智能模型通过扩展训练数据和模型大小来提高性能。根据OpenAI对基于变换器的语言模型的经验性研究,随着我们增加用于训练的计算量,性能会平稳提高。

在过去20年中,计算使用量激增。Epoch.ai对140个模型的分析显示,自2010年以来,具有里程碑意义的系统的培训计算每年增加了4.2倍。最新的OpenAI模型,GPT-4,需要的计算量是GPT-3的66倍,大约是GPT的120万倍。

AI民族主义明显

美国、中国和其他国家的巨额投资,总计约400亿美元。大部分资金将专注于生产GPU和人工智能芯片工厂。OpenAI的CEO Sam Altman计划筹集高达7万亿美元的资金,以增强全球人工智能芯片制造,强调“计算将成为未来的货币”。

聚合长尾计算资源可能会显著扰乱市场。中心化云服务提供商如AWS、Azure和GCP面临的挑战包括长时间的等待、有限的GPU灵活性和繁琐的长期合同,特别是对于较小的实体和初创公司而言困难更大。

数据中心、加密货币矿工和消费级GPU的未充分利用的硬件可以满足需求。2022年DeepMind的一项研究发现,在更多数据上训练较小的模型通常比使用最新、最强大的GPU更有效,这表明朝着使用可访问的GPU进行更有效的人工智能训练的转变。

IO.NET 结构性地颠覆了人工智能计算市场

IO.NET结构性地颠覆了全球人工智能计算市场。IO.NET的全球分布式人工智能训练、推理和微调的端到端平台,聚合了长尾GPU,以解锁廉价的高性能训练。

GPU市场:

IO.NET从全球的数据中心、矿工和消费者那里聚合GPU。人工智能初创公司可以在几分钟内部署去中心化的GPU集群,只需指定集群位置、硬件类型、机器学习栈(Tensorflow、PyTorch、Kubernetes),并立即在Solana上支付。

集群:

没有适配的并行基础设施的GPU就好比没有电源线的反应堆,虽然存在但无法使用。正如OpenAI博客所强调的,硬件和算法并行性的限制显著影响了每个模型的计算效率,限制了模型的大小和训练期间的有用性。

IO.NET 利用 Ray 框架将数千个 GPU 集群转换为一个统一整体。这一创新使 IO.NET 能够组建 GPU 集群,而不受地理位置分散的影响,进而解决了计算市场上的一大难题。

Ray 框架脱颖而出

作为一个开源的统一计算框架,Ray简化了人工智能和Python工作负载的扩展。Ray被Uber、Spotify、LinkedIn和Netflix等行业领导者所采用,促进了人工智能集成到他们的产品和服务中。微软为客户提供在Azure上部署Ray的机会,而Google Kubernetes Engine (GKE) 通过支持Kubeflow和Ray,简化了开源机器学习软件的部署。

Ahmad在2023年Ray峰会上展示他关于去中心化Ray框架的工作

去中心化Ray - 扩展Ray以进行全球推理(视频链接:https://youtu.be/ie-EAlGfTHA?)

我们最初是在Tory担任金融科技高增长初创公司的COO时遇见他的,我们知道他是一个具有数十年经验的高级运营者,能够将初创公司扩展到卓有成效的程度。与Ahmad和Tory交谈后,我们立即意识到这是将去中心化人工智能计算带到web3及更广范围的梦想团队。

Ahmad的创意结晶,IO.NET,是在实际应用中的一个顿悟时刻诞生的。开发Dark Tick,一种用于超低延迟高频交易的算法,需要大量的GPU资源。为了应对成本问题,Ahmad开发了一个去中心化的Ray框架版本,从加密货币矿工那里集群GPU,无意中打造了一个解决更广泛人工智能计算挑战的弹性基础设施。

发展势头:

通过利用代币激励,截至2024年中期,IO.NET已经上线了超过10万个GPU和2万个集群就绪的GPU,包括大量的NVIDIA H100和A100。Krea.ai已经在利用io.net的去中心化云服务,IO Cloud,来驱动他们的人工智能模型推理。IO.NET最近宣布与NavyAI、Synesis One、RapidNode、Ultiverse、Aethir、Flock.io、LeonardoAI、Synthetic AI等多个项目合作。

通过依赖全球分布式的GPU网络,IO.NET可以:

  • 与中心化云服务提供商相比,通过允许推理更接近其终端用户,从而降低客户的推理时间
  • 通过高度集成的网络骨干连接多个数据中心,将资源组织成区域,从而提高弹性
  • 降低计算资源的成本和访问时间
  • 允许公司动态扩展和缩小杠杆资源的规模
  • 使GPU提供者能够从他们的硬件投资中获得更好的收益

IO.NET通过去中心化Ray框架站在了创新的前沿。利用Ray Core和Ray Serve,他们的分布式GPU集群在去中心化GPU上高效地编排任务。

结论

推动开源人工智能模型是对原始互联网协作精神的认可,人们可以无需许可地接入HTTP和SMTP。

众包GPU网络的出现是无需许可精神的自然演变。通过众包长尾GPU,IO.NET正在打开通往宝贵计算资源的闸门,创造一个公平透明的市场,防止权力集中在少数人手中。

我们相信 IO.NET 通过去中心化的 Ray 集群技术实现人工智能计算即货币的愿景。在这个日益由 "富人 "和 "穷人 "组成的世界里,IO.NET 最终将 "让互联网再次开放"。 

链捕手ChainCatcher提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击 “举报”,我们会及时处理。
ChainCatcher 与创新者共建Web3世界