Le PDG d’OpenAI, Sam Altman, s’inquiète des outils d’IA potentiellement effrayants et de la façon dont les gens du futur nous verront

Le PDG d’OpenAI, Sam Altman, discute de Bing alimenté par ChatGPT chez Microsoft plus tôt ce mois-ci. Chona KasingerBloomberg/Getty Images

Peu de gens pensent plus à l’intelligence artificielle et à son impact ultime sur l’humanité que Sam Altman, PDG du fabricant de ChatGPT OpenAI. Donc, quand Altman s’inquiète de la façon dont les gens du futur nous verront, cela vaut la peine d’y prêter attention.

Dans une série de tweets ce week-end, Altman a partagé ses réflexions sur les dangers posés par la technologie actuelle de l’IA et par les outils qui suivront dans les années à venir.

ChatGPT a fait paniquer certaines personnes, en particulier Bing alimenté par ChatGPT, dont les suggestions et commentaires parfois troublants ont incité OpenAI et Microsoft à essayer de rassurer le public et de mieux expliquer la technologie.

Altman ne semble pas préoccupé par ChatGPT d’aujourd’hui, mais plutôt par la suite. Il tweetébien que les outils d’IA de la génération actuelle ne soient pas très effrayants, je pense que nous ne sommes potentiellement pas si loin des outils potentiellement effrayants.

Il semblait préoccupé par le temps, prédisant que l’intégration des outils d’IA dans la société se fera rapidement et que le monde a besoin de temps pour s’adapter.

Il écrit, l’adaptation à un monde profondément intégré aux outils d’IA va probablement se faire assez rapidement ; les avantages (et le plaisir !) ont trop d’avantages. Nous avons également besoin de suffisamment de temps pour que nos institutions sachent quoi faire. La réglementation sera essentielle et prendra du temps pour comprendre ce qui se passe, comment les gens veulent utiliser ces outils et comment la société peut co-évoluer est essentielle.

Ses pensées se sont également tournées vers la façon dont les générations futures se pencheront sur ce point de l’histoire et les décisions prises maintenant, et il semblait espérer une certaine compréhension et un pardon.

Je souhaite que toutes les générations traitent les générations précédentes avec indulgence, il écrit. L’humanité est profondément imparfaite. Nos grands-parents ont fait des choses horribles ; nos petits-enfants comprendront que nous avons fait des choses horribles que nous ne comprenons pas encore.

Les gens qui nous ont précédés sont un ensemble complet de bons et de mauvais, il a continué, et collectivement, ils ont fait avancer le monde ; il est important de considérer le progrès moral de la société comme un projet commun continu dont nous sommes tous responsables. Maintenant c’est notre tour. J’espère que les gens du futur nous verront de la même manière.

Cette semaine, le PDG de Tesla, Elon Musk, a pris ses distances avec OpenAI, qu’il a aidé à financer et à établir en tant qu’organisation à but non lucratif en 2015. Microsoft a beaucoup investi dans OpenAI ces dernières années et le mois dernier a indiqué qu’il injecterait encore plus d’argent dans l’entreprise.

Le vendredi, musc tweeté, OpenAI a été créée en tant qu’open source (c’est pourquoi je l’ai nommée Open AI), une société à but non lucratif pour servir de contrepoids à Google, mais maintenant elle est devenue une société à source fermée et à profit maximum contrôlée efficacement par Microsoft. Pas du tout ce que je voulais.