Jonathan Balkind reçoit le NSF Early CAREER Award pour améliorer l’informatique basée sur le cloud

Utilisant une technique appelée point de contrôle microarchitectural pour reconcevoir les processeurs informatiques pour l’informatique sans serveur basée sur le cloud, un nouveau paradigme privilégié par les développeurs de cloud Jonathan Balkind développe une nouvelle application pour l’informatique en nuage. Professeur adjoint d’informatique à l’UC Santa Barbara, il le fait grâce au financement de la National Science Foundation, au moyen d’un prix NSF Early CAREER de 630 000 $ sur cinq ans.

C’est vraiment un honneur de recevoir le prix CAREER, a déclaré Balkind. Il s’agit de ma première proposition financée par la NSF et c’était la première fois que je faisais une soumission pour la CARRIÈRE. J’ai dû me pincer au moins une fois pour croire que c’était vraiment arrivé. J’ai hâte de mener ce projet au cours des cinq prochaines années.

Le long et le court temps d’exécution des applications

Alors que les applications créées pour les serveurs s’exécutent jusqu’à plusieurs semaines à la fois, les nouvelles applications sans serveur ne s’exécutent qu’en un centième de milliseconde, ce qui signifie que de nombreuses technologies de processeur existantes ne peuvent pas suivre.

Nous avons passé plusieurs décennies à optimiser les processeurs pour les applications à longue durée de vie, afin que le processeur puisse apprendre leur comportement au fil du temps afin de prédire le comportement futur et, ainsi, fonctionner plus efficacement, a expliqué Balkind. Avec les applications d’aujourd’hui très courtes, comme celles sans serveur, nos processeurs n’ont tout simplement pas assez de temps pour apprendre le comportement. Cela rend inefficace l’exécution d’applications sans serveur sur des serveurs existants.

Mais avec les points de contrôle microarchitecturaux, a-t-il poursuivi, vous enregistrez ce que vous apprenez à chaque fois que l’application s’exécute, puis lorsque vous l’exécutez à nouveau plus tard, vous récupérez ce que vous avez enregistré, puis enregistrez à la fin de cette étape, et ainsi de suite. Le résultat est que le processeur n’apprend que ce dont il a besoin, à travers les instances de l’application au fil du temps. Les informations contrôlées de chaque application sont cloisonnées, vous évitez ainsi de polluer les informations d’une application avec celles d’une autre. Nous utiliserons des points de contrôle microarchitecturaux pour améliorer l’efficacité des applications sans serveur.

Open-sourcing d’un processeur sans serveur personnalisé

La clé de la recherche du prix Balkinds CAREER est la plate-forme OpenPiton, qu’il utilisera pour permettre le prototypage de son cadre open source pour la construction de processeurs. Nous avons une conception pour un processeur, a-t-il dit, et les gens peuvent y apporter des modifications, soit pour ajouter une fonctionnalité qu’ils souhaitent, soit pour tester des choses à mesure qu’ils modifient les paramètres de ce processeur, tels que le nombre de cœurs ou la quantité de cache. .

Le système a évolué à partir de travaux qui ont commencé en 2013, lorsque Balkind et son collègue Ph.D. de l’Université de Princeton. les étudiants l’ont conçu pour servir de plate-forme de recherche permettant aux utilisateurs d’ajouter leurs propres composants pour valider des idées de recherche particulières. Nous fournissons à peu près tous les composants nécessaires à la conception d’un nouveau processeur, et par conséquent, nous avons vu les utilisateurs être très productifs, plus de 60 projets de recherche ont utilisé la plate-forme, a-t-il déclaré. De plus, un certain nombre d’entreprises ont adopté OpenPiton, notamment Intel, qui a utilisé la plate-forme pour développer une puce de processeur à 8 cœurs afin de démontrer l’efficacité de ses nouvelles installations de fabrication.

Balkind est un contributeur important à l’espace matériel open source, où, a-t-il déclaré, fournissait ces conceptions et essayait de créer une communauté et de fabriquer de meilleurs produits à l’avenir. Il a reçu une bourse Open Source Hardware Association Trailblazer pour son travail dans ce domaine.

La fabrication et la personnalisation de processeurs pour des applications spécifiques constituent une partie importante de l’évolution de l’informatique. Dans l’industrie, les entreprises personnalisent régulièrement leurs processeurs pour les nouvelles applications à mesure qu’elles émergent, a déclaré Balkind. Sa proposition de points de contrôle microarchitecturaux sera présentée comme une personnalisation d’OpenPiton, qui peut bénéficier aux applications sans serveur. En open source cette conception de processeur et en fournissant une mise en œuvre concrète de l’idée, lui et son équipe espèrent qu’elle sera plus facilement adoptée par d’autres processeurs industriels.

Cloud computing à la demande

Si vous êtes un développeur, il existe de nombreuses façons d’écrire une application, a noté Balkind. Mais si votre application est soudainement découverte et que vous avez, presque instantanément, un million d’utilisateurs par semaine, vous devez avoir la flexibilité de passer d’un serveur à 10 000 serveurs traitant vos demandes. L’informatique sans serveur est spécialement conçue pour le faire pour vous.

Vers 2016, Amazon et d’autres entreprises ont découvert qu’elles n’utilisaient qu’environ 65 % de la capacité de leur centre de données, laissant environ un tiers des ressources inutilisées. Amazon a répondu en inventant un paradigme qui serait facile à programmer et permettrait d’évoluer à la hausse et à la baisse en un clin d’œil. Ainsi, la NFL a déplacé une grande partie de son service Web vers ce paradigme, car ils ont deux ou trois jours par semaine où tout le monde utilise le site Web, et le reste du temps, c’est beaucoup plus calme, a déclaré Balkind. C’est la même chose avec les banques. À la fin du mois, les clients scannent leur chèque de paie pour le déposer avec leur téléphone, provoquant un énorme pic de demande qui dure trois jours par mois. Des pics se produisent également qui ne peuvent pas être prédits.

L’espoir est qu’il n’y ait pas trop de pics de demande en même temps, de sorte qu’il y ait une répartition uniforme de l’utilisation dans le temps.

Le système est logique, mais il y a un hic : les 35 % de capacité supplémentaires, auparavant inutilisés, dont Amazon et d’autres fournisseurs de cloud disposaient ne sont pas aussi fiables que les 65 % fortement utilisés.

Ils ne peuvent pas garantir que vous obtiendrez de bonnes performances lorsque votre application s’exécutera, a déclaré Balkind. Pour compenser cela, ils vendent un plan qui vous permet de ne payer que le temps pendant lequel votre application est en cours d’exécution, alors que, normalement, vous payez même lorsqu’elle est inactive. Si vous êtes un développeur de start-up à petite échelle et que vous n’avez aucune demande, c’est OK ; vous ne payez rien. Au fur et à mesure que les gens commencent à utiliser votre service, vous payez d’une manière exactement proportionnelle à votre utilisation.

Amazon a été le premier à le faire, avec sa plateforme Lambda. Une fois qu’ils l’ont fait, tous les autres ont suivi, a déclaré Balkind. Le problème, cependant, est que pour chaque demande individuelle, il s’avère qu’ils n’obtiennent pas un excellent service, une commande peut s’exécuter instantanément et la suivante peut prendre 30 secondes. C’est ce que nous essayons d’améliorer.