Une startup présente le prochain réseau d’infrastructure GPU décentralisé vers OpenAI et Uber
Un projet qui a commencé comme un système d’échange quantitatif de niveau institutionnel pour les crypto-monnaies et les actions est devenu un réseau décentralisé approvisionnant la puissance de calcul GPU pour répondre à la demande croissante de services d’intelligence artificielle (IA) et d’apprentissage automatique (ML).
Io.net a développé un réseau de test qui s’approvisionne en puissance de calcul GPU auprès d’une variété de centres de données, de mineurs de crypto-monnaie et de fournisseurs de stockage décentralisés. L’agrégation de la puissance de calcul des GPU est censée réduire considérablement le coût de location de ces sources, qui deviennent de plus en plus coûteux à mesure que l’IA et l’apprentissage automatique progressent.
S’adressant exclusivement à Cointelegraph, le PDG et co-fondateur Ahmad Shadid dévoile les détails du réseau qui vise à fournir une plate-forme décentralisée de location de puissance de calcul à une fraction du coût des alternatives centralisées qui existent actuellement.
En rapport: L’avenir des paiements : Visa va investir 100 millions de dollars dans l’IA générative
Shadid explique comment le projet a été conçu fin 2022 lors d’un hackathon Solana. Io.net développait une plateforme de trading quantitative qui s’appuyait sur la puissance de calcul du GPU pour ses opérations à haute fréquence, mais était paralysée par les coûts exorbitants de location de la capacité de calcul du GPU.
L’équipe expose le défi de la location de matériel GPU hautes performances dans sa documentation de base, le prix de location d’un seul Nvidia A100 étant en moyenne d’environ 80 $ par jour et par carte. Avoir besoin de plus de 50 de ces cartes pour fonctionner 25 jours par mois coûterait plus de 100 000 dollars.
Une solution a été trouvée dans la découverte de Ray.io, une bibliothèque open source utilisée par OpenAI pour distribuer la formation ChatGPT sur plus de 300 000 CPU et GPU. La bibliothèque a rationalisé l’infrastructure du projet, son backend étant développé en l’espace de deux mois.
Shadid a fait la démonstration d’Io.net en travaillant sur testnet lors du Ray Summit axé sur l’IA en septembre 2023, soulignant comment le projet regroupe la puissance de calcul, qui est servie aux consommateurs de GPU sous forme de clusters pour répondre à des cas d’utilisation spécifiques de l’IA ou de l’apprentissage automatique.
Non seulement ce modèle permet à Io.net de fournir un calcul GPU jusqu’à 90 % moins cher que les fournisseurs historiques, mais il permet également une puissance de calcul pratiquement illimitée.
Le réseau décentralisé devrait tirer parti de la blockchain Solanas pour fournir des paiements SOL (SOL) et USD Coin (USDC) aux ingénieurs en apprentissage automatique et aux mineurs qui louent ou fournissent de la puissance de calcul.
Lorsque les ingénieurs ML paient pour leurs clusters, ces fonds sont directement dirigés vers les mineurs qui ont servi dans le cluster avec leurs GPU, avec de petits frais de réseau étant alloués au protocole Io.net.
La feuille de route du projet devrait inclure le lancement d’un système à double jeton natif qui comportera IO et IOSD. Le modèle de jeton récompensera les mineurs pour l’exécution de charges de travail d’apprentissage automatique et le maintien de la disponibilité du réseau tout en tenant compte du coût en dollars de la consommation d’électricité.
La pièce IO sera librement échangée sur le marché de la cryptographie et constitue la porte d’accès à la puissance de calcul, tandis que le jeton IOSD servira de jeton de crédit stable, indexé algorithmiquement à 1 USD.
Shadid a déclaré à Cointelegraph qu’Io.net diffère fondamentalement des services cloud centralisés comme Amazon Web Services (AWS) :
Pour utiliser une analogie, il s’agit de United Airlines et de Kayak ; ils possèdent des avions, alors que nous aidons les gens à réserver des vols.
Le fondateur a ajouté que toutes les entreprises qui ont besoin de calculs d’IA font généralement appel à des fournisseurs tiers, car elles ne disposent pas des GPU nécessaires pour tout gérer en interne. Alors que la demande de GPU devrait augmenter de 10 fois tous les 18 mois, Hadid a déclaré que la capacité est souvent insuffisante pour répondre à la demande, ce qui entraîne de longs délais d’attente et des prix élevés.
À cela s’ajoute ce qu’il décrit comme une utilisation inefficace des centres de données qui ne sont pas optimisés pour le type de travail d’IA et d’apprentissage automatique qui augmente rapidement :
Il existe des milliers de centres de données indépendants rien qu’aux États-Unis, avec un taux d’utilisation moyen de 12 à 18 %. En conséquence, des goulots d’étranglement se créent, ce qui a pour effet d’augmenter les prix du calcul GPU.
L’avantage est que le mineur moyen de crypto-monnaie a tout à gagner en louant son matériel pour rivaliser avec des sociétés comme AWS. Hadid a déclaré que le mineur moyen utilisant un A100 de 40 Go gagne 0,52 $ par jour, tandis qu’AWS vend la même carte pour l’informatique IA pour 59,78 $ par jour.
Une partie de la proposition de valeur d’Io.net est que, premièrement, nous permettons aux participants d’être exposés au marché du calcul de l’IA et de revendre leurs GPU, et pour les ingénieurs ML, nous sommes nettement moins chers qu’AWS.
Les chiffres partagés avec Cointelegraph estiment que les mineurs disposant de ressources GPU pourraient gagner 1 500 % de plus qu’en exploitant diverses crypto-monnaies.
Revue: Détectives de la blockchain : l’effondrement du mont Gox a vu la naissance de Chainalysis