L’incroyable retour zombie de l’informatique analogique
Mon terme personnel pour la nature inexacte du monde désordonné et flou était confus. Mais ensuite, en 1980, j’ai acquis un ordinateur de bureau Ohio Scientific et j’ai trouvé un soulagement rapide et durable. Toutes ses opérations ont été construites sur une base d’arithmétique binaire, dans laquelle un 1 était toujours exactement un 1 et un 0 était un véritable 0, sans chicanerie fractionnaire. Le 1 de l’existence, et le 0 du néant ! Je suis tombé amoureux de la pureté du numérique et j’ai appris à écrire du code, qui est devenu un refuge permanent contre les mathématiques floues.
Bien sûr, les valeurs numériques devaient toujours être stockées dans des composants physiques faillibles, mais les marges d’erreur s’en occupaient. Dans une puce numérique moderne de 5 volts, 1,5 volts ou moins représenteraient le chiffre 0 tandis que 3,5 volts ou plus représenteraient le chiffre 1. Les composants d’une carte mère correctement conçue resteraient dans ces limites, il ne devrait donc pas y avoir de malentendu.
Par conséquent, lorsque Bernd Ulmann a prédit que les ordinateurs analogiques devaient faire leur grand retour, je n’étais pas simplement sceptique. J’ai trouvé l’idée un peu dérangeante.
En espérant un vérification de la réalité, j’ai consulté Lyle Bickley, membre fondateur du Computer History Museum à Mountain View, en Californie. Ayant servi pendant des années comme témoin expert dans des procès en matière de brevets, Bickley maintient une connaissance encyclopédique de tout ce qui a été fait et est encore fait en informatique.
Beaucoup d’entreprises de la Silicon Valley ont des projets secrets de puces analogiques, m’a-t-il dit.
Vraiment? Mais pourquoi?
Parce qu’ils consomment si peu d’énergie.
Bickley a expliqué que lorsque, par exemple, les systèmes d’IA en langage naturel par force brute distillent des millions de mots sur Internet, le processus est incroyablement gourmand en énergie. Le cerveau humain fonctionne avec une petite quantité d’électricité, a-t-il dit, environ 20 watts. (C’est la même chose qu’une ampoule.) Pourtant, si nous essayons de faire la même chose avec des ordinateurs numériques, cela prend des mégawatts. Pour ce genre d’application, le numérique ne fonctionnera pas. Ce n’est pas une façon intelligente de le faire.
Bickley a dit qu’il violerait la confidentialité pour me donner des détails, alors je suis allé chercher des startups. Rapidement, j’ai trouvé une société de la région de la baie de San Francisco appelée Mythic, qui prétendait commercialiser le premier processeur matriciel analogique AI de l’industrie.
Mike Henry a cofondé Mythic à l’Université du Michigan en 2013. C’est un gars énergique avec une coupe de cheveux soignée et une chemise bien repassée, comme un ancien vendeur IBM. Il a développé le point de Bickleys, citant le réseau neuronal semblable au cerveau qui alimente GPT-3. Il compte 175 milliards de synapses, a déclaré Henry, comparant les éléments de traitement aux connexions entre les neurones du cerveau. Donc, chaque fois que vous exécutez ce modèle pour faire une chose, vous devez charger 175 milliards de valeurs. Les très grands systèmes de centres de données peuvent à peine suivre le rythme.
C’est parce que, dit Henry, ils sont numériques. Les systèmes d’IA modernes utilisent un type de mémoire appelé RAM statique, ou SRAM, qui nécessite une alimentation constante pour stocker les données. Son circuit doit rester allumé même lorsqu’il n’exécute pas une tâche. Les ingénieurs ont fait beaucoup pour améliorer l’efficacité de la SRAM, mais il y a une limite. Des astuces comme la réduction de la tension d’alimentation s’épuisent, a déclaré Henry.