Rêves et cauchemars du copilote : les initiés de Microsoft partagent ce qu’ils pensent vraiment de l’avenir de l’IA de l’entreprise
La chance qu’a Microsoft de devenir la principale plate-forme d’IA pour les entreprises en a fait l’entreprise publique la plus précieuse au monde, alors que Wall Street s’enthousiasme pour une révolution de productivité à venir.
Au sein du géant du logiciel, les perspectives sont encourageantes, mais la réalité est moins glamour et la voie vers le succès est moins claire.
C’est ce que révèlent des entretiens avec plusieurs cadres supérieurs actuels de Microsoft, d’anciens dirigeants et de nombreux employés de base, qui ont demandé à rester anonymes afin de pouvoir partager des opinions franches sur l’avenir de l’IA de l’entreprise et sur ses relations avec la startup OpenAI, d’une valeur de 80 milliards de dollars.
Il existe une réelle inquiétude quant à savoir si les nouveaux services Microsoft AI créeront suffisamment de valeur pour les entreprises clientes qui paient un supplément pour cette technologie naissante. Des projets d’IA internes ont été abandonnés ou remis en question et des équipes ont été remaniées, tandis que le partenariat OpenAI aspire des ressources et suscite le ressentiment de certains membres du personnel.
Mais il existe également un sentiment d’optimisme quant à la capacité de Microsoft à améliorer régulièrement ses offres d’IA et à capitaliser sur la confiance qu’il a bâtie auprès de milliers d’entreprises qui utilisent ses logiciels depuis des décennies. L’IA générative est peut-être à la pointe, mais Microsoft pourrait gagner précisément parce qu’il s’agit d’une vieille entreprise quelque peu ennuyeuse, et non d’une nouvelle startup volatile.
« Les clients font plus confiance à Microsoft qu’à OpenAI puisqu’ils achètent déjà l’écosystème de Microsoft », a déclaré un chercheur de Microsoft AI à Business Insider. « Il est plus naturel pour l’entreprise d’utiliser Microsoft que les offres d’OpenAI. Toutes ces fonctionnalités ne sont pas aussi révolutionnaires que ChatGPT lors de sa sortie, mais elles apportent beaucoup de valeur aux personnes travaillant dans le domaine de la productivité. »
L’opportunité de Microsoft
Les chatbots destinés aux consommateurs sont flashy et amusants, mais l’argent réel sera gagné si les entreprises non seulement adoptent de grands modèles de langage et l’IA générative, mais les trouvent utiles pour améliorer les opérations, les ventes et d’autres processus.
Une récente enquête de Morgan Stanley auprès des directeurs de l’information, les dirigeants qui décident chaque année de la manière dont des milliards de dollars sont dépensés en technologie, suggère que la première partie commence à se produire. La banque a constaté que l’IA et l’apprentissage automatique étaient la priorité absolue des DSI au dernier trimestre 2023. Plus des deux tiers de ces dirigeants ont déclaré que l’IA avait déjà affecté leurs budgets informatiques.
Face à une telle opportunité, le PDG Satya Nadella a mobilisé pratiquement toute l’entreprise autour du développement d’outils et de services d’IA basés sur les modèles GPT d’OpenAI. C’est la base de la gamme d’offres Copilot de Microsoft, qui fournissent une assistance automatisée aux employés travaillant sur des documents texte, des feuilles de calcul, des problèmes de cybersécurité et d’autres tâches.
« Presque tout le monde que je connais travaille sur Copilot dans une certaine mesure », a déclaré le chercheur de Microsoft AI à BI.
La volonté de pratiquement toutes les équipes de donner la priorité à l’IA générative dans leurs applications a créé un certain ressentiment parmi les employés de base qui affirment avoir dû faire plus avec moins après des licenciements importants et un gel des salaires.
« Une fois sur 10, c’est magique »
Microsoft a également récemment déployé ses produits Copilot en interne. Les employés ont déclaré à BI qu’ils avaient obtenu des premiers résultats mitigés en ce qui concerne la fiabilité des résultats. Ils s’attendent néanmoins à ce que cela s’améliore avec le temps.
Les dirigeants actuels et anciens ont décrit une course pour ajouter de la valeur à ces outils d’IA quelque peu peu fiables et « fantaisistes » avant que l’enthousiasme ne disparaisse et que les clients ne se demandent s’ils obtiennent le retour qu’ils attendaient de cette technologie très médiatisée.
« Environ une fois sur dix, c’est magique », a déclaré un dirigeant de Microsoft à BI. « Le reste du temps, on se demande ‘Pourquoi essayons-nous ?' »
Un porte-parole de Microsoft, Frank Shaw, a déclaré que l’entreprise était optimiste quant à ses outils d’IA et que les clients constataient un impact positif même à ce stade précoce. Les clients obtiennent une version plus aboutie des produits que les employés de Microsoft, et le géant du logiciel met en œuvre les retours de toutes les sources pour améliorer les outils. « Ces choses ne sont plus des trucs de fête », a-t-il déclaré.
« C’est nous qui livrons cela », a ajouté Shaw, ce qui signifie que c’est Microsoft qui introduit les outils d’IA sur le marché de manière significative.
Améliorer la proposition de valeur de l’IA
Pendant ce temps, au sein d’OpenAI, il existe une pression croissante pour devenir une véritable entreprise plutôt qu’un groupe de recherche sur l’IA. Cela a conduit la startup sur le terrain de Microsoft. En août, OpenAI a lancé un service GPT Enterprise plus robuste à utiliser par les entreprises.
« Le gain d’OpenAI n’est pas encore une perte pour Microsoft », a déclaré un autre dirigeant de Microsoft. « Cela pourrait arriver dans le futur. »
La réponse de Microsoft a été de créer des Copilots, qui peuvent être considérés comme des expériences maison de type ChatGPT pour les entreprises clientes existantes. La société les regroupe avec ses logiciels existants tout en offrant aux clients l’accès à de nombreux modèles linguistiques étendus.
Ces outils et services d’IA générative sont vendus dans le cadre du discours de « transformation numérique » de Microsoft, un effort de longue haleine visant à convaincre les entreprises clientes d’adopter les dernières technologies, telles que le déplacement des charges de travail sur site vers le cloud. Des entreprises comme Walmart et JPMorgan Chase ont fait appel à Microsoft pour intégrer l’IA générative dans leurs opérations et leurs produits.
Du FOMO au ROI
Nous en sommes encore au stade FOMO de l’adoption de l’IA en entreprise. Les entreprises sont plus intéressées à essayer cette nouvelle technologie et moins inquiètes de son coût. Mais les initiés de Microsoft savent que la conversation portera bientôt sur des sujets tels que le retour sur investissement.
Cette technologie entraîne des coûts importants, a déclaré l’un des dirigeants qui ont parlé avec BI, et sa valeur est incertaine dans les premières étapes de l’adoption de ces outils.
« Le retour sur investissement des expériences qu’ils intègrent à leurs produits n’est pas clair, et il s’agit d’un coût non négligeable », a déclaré ce dirigeant, ajoutant qu’il existe une crainte en interne que les entreprises clientes décident que ce qu’elles obtiennent n’en vaut pas la peine. .
La valeur, pas le prix
Pour l’instant, il semble que les entreprises proposant cette technologie n’essaient pas de rivaliser uniquement sur le prix. Les Microsoft Copilots sont principalement disponibles sous forme de modules complémentaires aux produits existants pour 30 $ par utilisateur et par mois. Google facture à peu près la même chose pour des outils d’IA similaires.
« Il est trop prématuré de supposer qu’il s’agira d’une course vers le prix le plus bas », a déclaré un autre dirigeant de Microsoft. « Le problème que Microsoft voit est que nous devons simplement convaincre les gens que cela a de la valeur. Les entreprises ne savent pas si cela est trop cher. Nous ne considérons pas la question comme si nous devions le rendre moins cher, mais simplement ajouter plus de valeur. »
Jusqu’à présent, les retours des clients sur les outils d’IA de Microsoft sont « mitigés », a déclaré le dirigeant. « Mais il est encore trop tôt. La proposition de valeur vient à peine de commencer. »
« Gimmicky », mais permet de gagner du temps
Un cadre dirigeant d’un important client de Microsoft a déclaré à BI que l’outil Copilot de l’entreprise pour sa suite d’applications professionnelles Microsoft 365 était « gadget ».
Les outils sont limités dans ce qu’ils peuvent faire, et bien qu’ils soient utiles, ils ne sont « pas encore époustouflants » ni indispensables, a déclaré la personne.
Cependant, la personne a déclaré que la mise à niveau de Copilot vers Microsoft 365 avait permis de gagner du temps en résumant les réunions et les longs fils de discussion avec un degré de fiabilité raisonnable.
Les premières vues du copilote de Dentsu
L’agence de publicité Dentsu participe à un programme d’accès anticipé pour Microsoft 365 Copilot et prévoit d’ajouter jusqu’à 4 000 postes au cours du mois prochain, a indiqué Microsoft.
Dans une interview organisée par Microsoft, Shiva Vannavada, directeur mondial des produits et de la technologie de Dentsu, a déclaré que les employés ont déclaré avoir gagné 30 à 40 minutes par jour en utilisant Microsoft 365 Copilot pour des tâches telles que la synthèse des discussions Teams et la génération de présentations et de résumés.
Vannavada a déclaré que 80 % des employés ayant répondu à une enquête menée en janvier ont déclaré avoir une opinion très positive de Copilot.
Il a déclaré que les 20 % restants avaient un mélange de plaintes. Les employés de l’équipe créative, par exemple, ont déclaré qu’ils n’aimaient pas la fonction Copilot dans PowerPoint parce qu’ils voulaient que leurs présentations soient belles et que les versions IA n’atteignaient pas cette barre plus élevée. . Vannavada a déclaré que Dentsu dispose d’une formation pour aider les employés à utiliser Copilot pour créer des sorties et des applications plus avancées.
Questions sur un effort GPU interne
Microsoft essaie de rendre l’IA générative plus rapide, meilleure et moins chère. Mais il existe des limites technologiques fondamentales pour que les modèles fonctionnent avec précision, ont déclaré les personnes qui ont parlé avec BI.
Il s’agit également de charges de travail gourmandes en énergie qui dépendent fortement de l’achat par Microsoft d’unités de traitement graphique auprès de Nvidia. Les analystes de DA Davidson ont estimé que Microsoft avait dépensé 4,5 milliards de dollars en puces Nvidia l’année dernière. L’un des dirigeants de Microsoft a déclaré à BI que cela correspondait à ses dépenses réelles. Shaw a refusé de commenter cela.
Microsoft a déployé des efforts internes pour concevoir ses propres puces d’IA afin de réduire sa dépendance à l’égard de Nvidia, mais certains employés considèrent cet effort comme un gaspillage de ressources.
« Franchement, ces efforts ont quelques années de retard sur Nvidia, et tous ces efforts demandent beaucoup de travail », a déclaré l’un des dirigeants de Microsoft. « Vous participez à cette course effrénée où l’état de l’art a évolué au moment où vous y arrivez. »
Microsoft est devenu le « support technique pour OpenAI »
Le groupe au centre du rêve d’IA d’entreprise de Microsoft est l’équipe AI Platform dirigée par Eric Boyd. Cela fait partie de l’organisation Cloud + AI de Scott Guthrie.
L’équipe d’AI Platform a connu de nombreuses itérations. Ce qui était historiquement une organisation avec de nombreux jeux d’IA en interne s’est fortement appuyé sur le partenariat OpenAI. Cela a créé un certain ressentiment et conduit au départ de certains dirigeants qui avaient travaillé sur les initiatives d’IA de Microsoft.
Les initiés affirment que Microsoft se concentre moins sur les services internes qui constituaient auparavant Azure AI Services et davantage sur le service Azure OpenAI.
Un ancien cadre qui a quitté l’entreprise à la suite de ces changements a déclaré que des produits comme Azure Cognitive Search, Azure AI Bot Service et Kinect DK avaient pratiquement disparu. Shaw a déclaré que ces services existent sous une forme ou une autre, mais qu’ils ne font pas partie de l’organisation Azure AI, qu’ils ont été renommés ou qu’ils ont été regroupés avec d’autres produits.
« L’ancienne Azure AI n’est essentiellement qu’un support technique pour OpenAI », a déclaré un ancien cadre de Microsoft. « Eric Boyd assure efficacement la maintenance du service OpenAI. C’est moins un moteur d’innovation qu’avant. Désormais, c’est davantage l’informatique pour OpenAI. Le cœur battant de l’innovation est ailleurs. »
Cette personne a ajouté : « Ce n’est pas très innovant, mais c’est une bonne stratégie commerciale ».
Le service Azure OpenAI compte des centaines de développeurs prenant en charge les clients du service cloud Azure de Microsoft qui utilisent les modèles GPT d’OpenAI. Certains employés de Microsoft travaillent si étroitement avec OpenAI qu’ils disposent de badges pour accéder aux bureaux d’OpenAI, et certains employés d’OpenAI peuvent obtenir un badge pour accéder aux sites Microsoft.
Microsoft ne se limite pas à OpenAI
L’équipe d’AI Platform a récemment connu un remaniement de sa direction après que John Montgomery, un cadre qui dirigeait auparavant le produit, a été remplacé par Asha Sharma, ancienne directrice de l’exploitation d’Instacart.
L’équipe propose ce que l’on appelle dans l’industrie un « modèle en tant que service », dans lequel des entreprises comme Microsoft fournissent un accès aux modèles d’IA via des API.
Parallèlement à ses efforts avec OpenAI, Microsoft augmente le nombre de modèles mis à la disposition des entreprises clientes. Le géant du logiciel a récemment investi 16 millions de dollars dans la startup française Mistral AI. Les modèles Mistral seront proposés aux clients Microsoft avec environ 1 600 autres modèles, dont ceux de Cohere et Meta.
L’un des dirigeants de Microsoft a suggéré que l’entreprise ne « limiterait pas les services de modèle en tant que service et les services cloud aux seuls modèles OpenAI », ajoutant : « S’assurer d’avoir la plus grande variété de modèles au-dessus de cette infrastructure est tout simplement une bonne affaire. « .
L’investissement de Mistral peut donner l’impression que Microsoft s’éloigne stratégiquement d’OpenAI. Cela est utile pour tenir à distance les régulateurs antitrust, mais cette personne a déclaré que le montant de l’investissement de 16 millions de dollars contre 13 milliards de dollars pour OpenAI devrait clarifier cette perception.
« Il y a un désir chez les gens de vouloir du drame », a déclaré cette personne, « mais les mathématiques parlent d’elles-mêmes. »
Êtes-vous un employé de Microsoft ou quelqu’un d’autre ayant des idées à partager ?
Contactez Ashley Stewart par e-mail (astewart@businessinsider.com), ou envoyez un message sécurisé depuis un appareil non professionnel via Signal (+1-425-344-8242).