Writing
我们为什么投资IONET
on
June 11, 2024
| Click to read translation here:
Read Full Proposal
Read Blueprint

<AI / All>

人类正面临人工智能的奥本海默时刻。

埃隆·马斯克指出,"随着技术的进步,确保人工智能服务于人民的利益,而不仅仅是掌权者的利益,这一点至关重要。人民所有的人工智能提供了一条前进的道路。"

在与加密货币的交叉点上,人工智能可以实现自我民主化。从开源模型开始,然后是由人民创造、为人民服务、属于人民的人工智能。虽然web3xAI的目标是崇高的,但其实际应用取决于其可用性以及与现有人工智能软件堆栈的兼容性。这正是IONET独特的方法和技术堆栈发挥作用的地方。

IONET的去中心化Ray框架是向web3及其他领域推出无许可AI计算市场的特洛伊木马。 ‍

IONET正在引领GPU资源丰富化的潮流。与其他通用计算聚合器不同,IONET通过重写Ray框架,将去中心化计算与行业领先的AI堆栈连接起来。这种方法为web3内外更广泛的应用铺平了道路。

在AI民族主义背景下的计算能力竞赛 ‍

AI堆栈各层的资源竞争持续激烈。过去几年,AI模型激增。在Llama 3发布后的几小时内,Mistral和OpenAI就发布了他们的前沿AI模型的新版本[1]。

AI堆栈中正在经历资源竞争的三个层面是:1)训练数据,2)先进算法,以及3)计算单元。计算能力通过扩大训练数据和模型规模,使AI模型能够提升性能。根据OpenAI对基于Transformer的语言模型的实证研究,随着用于训练的计算量增加,性能会平稳提升。

在过去20年里,计算使用量激增。Epoch.ai对140个模型的分析显示,自2010年以来,标志性系统的训练计算量每年增长4.2倍。最新的OpenAI模型GPT-4需要比GPT-3多66倍的计算量,比GPT多约120万倍。

AI民族主义明显体现在美国、中国和其他国家各约400亿美元的重大投资上。大部分资金将集中于生产GPU和AI芯片工厂。OpenAI的CEO,Sam Altman,计划为提升全球AI芯片制造的一项风险投资筹集高达7万亿美元,强调"计算将成为未来的货币"。

聚合长尾计算资源可能会显著扰乱市场。与AWS、Azure和GCP等中心化云服务提供商相关的挑战包括长时间等待、有限的GPU灵活性以及繁重的长期合同,特别是对较小实体和初创企业而言。

来自数据中心、加密货币矿工和消费者GPU的未充分利用的硬件可以满足需求。DeepMind 2022年的一项研究发现,在更多数据上训练较小的模型通常比使用最新、最强大的GPU更有效,这表明向使用更容易获取的GPU进行更高效的AI训练转变。

IONET从结构上扰乱AI计算市场 ‍

IONET从结构上扰乱全球AI计算市场。IONET的全球分布式端到端平台用于AI训练、推理和微调,聚合了GPU的长尾,以解锁廉价的高性能训练。

GPU市场:

IONET聚集了来自全球数据中心、矿工和消费者的GPU。AI初创企业可以通过指定集群位置、硬件类型、ML堆栈(Tensorflow、PyTorch、Kubernetes)在几分钟内部署去中心化GPU集群,并立即在Solana上支付。

集群化

没有适当并行化基础设施的GPU就像没有电线的反应堆——存在但无法使用。正如OpenAI博客中强调的那样,硬件和算法上的并行化限制显著影响了每个模型的计算效率,限制了模型在训练过程中的大小和实用性。

IONET利用Ray框架将数千个GPU的集群转变为统一实例。这一创新使IONET能够形成不受地理分散影响的GPU集群,解决了计算市场的一个主要障碍。

Ray作为开源统一计算框架脱颖而出,简化了AI和Python工作负载的扩展。被Uber、Spotify、LinkedInNetflix等行业领导者采用,Ray促进了将AI集成到他们的产品和服务中。Microsoft为客户提供了在Azure上部署Ray的机会,而Google Kubernetes Engine (GKE)通过支持其平台上的Kubeflow和Ray,简化了OSS ML软件的部署。

Ahmad在2023年Ray峰会上展示他在去中心化Ray框架方面的工作

我们首次遇见IONET的CEO Tory是在他担任金融科技高增长初创企业COO期间,我们知道他是一位具有数十年经验的下一级操作者,能将初创企业扩展到有意义的影响力。与Ahmad和Tory交谈后,我们立即意识到这是将去中心化AI计算带入web3及其他领域的梦之队。

Ahmad的心血结晶IONET源于实际应用中的顿悟。开发用于延迟超低高频交易的Dark Tick算法需要大量GPU资源。为了控制成本,Ahmad开发了Ray框架的去中心化版本,将加密货币矿工的GPU集群化,无意中打造了一个解决更广泛AI计算挑战的弹性基础设施。

发展势头:

截至2024年中期,通过利用代币激励,IONET已经吸纳了超过10万个GPU和2万个集群就绪GPU,包括大量NVIDIA H100和A100。Krea.ai已经在使用io.net的去中心化云服务IO Cloud为其AI模型推理提供动力。IONET最近宣布与NavyAISynesis OneRapidNodeUltiverseAethir、Flock.io、LeonardoAISynthetic AI等项目建立合作关系。

通过依赖全球分布的GPU网络,IONET可以:

  • 通过允许推理发生在更接近最终用户的地方,相比中心化云服务提供商,为某些客户降低推理时间
  • 通过将其资源组织成具有通过高度集成网络骨干连接的多个数据中心的区域,提高弹性
  • 降低计算资源的成本和访问时间
  • 允许企业动态扩大和缩小利用的资源
  • 使GPU提供者能够从他们的硬件投资中获得更好的收益

IONET通过去中心化Ray站在创新前沿。利用Ray Core和Ray Serve,他们的分布式GPU集群有效地在去中心化GPU上编排任务。

结论 ‍

推动开源AI模型是对原始互联网协作精神的认可,人们可以无需许可地接入HTTP和SMTP。

众包GPU网络的出现是无许可精神在其自然演变中的火炬传递。通过众包长尾GPU,IONET正在打开通往有价值计算资源的闸门,创造一个公平透明的市场,防止权力集中在少数人手中。

我们相信IONET通过去中心化Ray集群技术实现AI计算即货币的愿景。在一个日益由"拥有者"和"没有者"组成的世界里,IONET最终将"让互联网再次开放"。🚀

_________________

LongHash是一家自2017年以来专注于加密货币的风险投资公司。我们投资并与有远见的创始人一起建设,打造开放经济的下一次演变。关注Roy (x.com/0xroylu)和Raghav (x.com/@0xRaghav)获取关于数据可用性和AI的前沿研究。

_________________

[1] "AI竞赛随着OpenAI、Google和Mistral发布新模型而升温。" 卫报,https://www.theguardian.com/technology/2024/apr/10/ai-race-heats-up-as-openai-google-and-mistral-release-new-models. 访问时间2024年4月19日

[2] "欢迎来到AI民族主义时代" 经济学人 https://www.economist.com/business/2024/01/01/welcome-to-the-era-of-ai-nationalism. 访问时间2024年4月19日