AI Shakespeare et AI Oscar Wilde débattent de la créativité des machines à Oxford
« Non, non, dis-je ! Ça ne peut pas être,
Que les machines devraient toujours surpasser notre art.
Nous sommes les maîtres, eux les esclaves,
Et ainsi il en sera toujours ainsi !
Ils apprennent, c’est vrai, mais ils apprennent
Seulement ce que nous leur disons d’apprendre, pas plus.
Ils ne peuvent pas comprendre le coeur
Ou la beauté de nos paroles, voyez-vous.
Alors ne cédons pas à ces
Les machines ne seront jamais aussi bonnes
Comme nous sommes en train de créer de l’art.
Si cela se lit un peu comme Shakespeare défendant la supériorité innée des humains sur l’intelligence artificielle des centaines d’années en avance sur son temps, ce n’est pas le cas.
Mais c’est quelque chose de presque aussi éloigné : un système d’IA formé pour s’exprimer comme le barde. L’IA a assimilé son style et sa perspective en ingérant ses pièces de théâtre en s’instruisant pour donner un avis sur la créativité de l’IA en pentamètre iambique.
Shakespeare s’exprimait dans le cadre d’un débat organisé à l’Université d’Oxford Union avec des versions IA d’écrivains classiques et de personnages littéraires.
La motion était la suivante : Cette maison pense que la plupart du contenu mondial sera bientôt créé par l’IA.
Il s’agissait d’un suivi d’un autre débat spécial sur l’IA que nous avons décrit dans La conversation il y a quelques mois. Alors que celui-ci présentait une IA dans son propre personnage discutant de l’éthique de sa technologie, cette fois, en prenant des personnages différents, nous avons pu explorer ce sujet sous un angle très différent. La question opportune est de savoir si le contenu créé par l’homme sera bientôt submergé par le synthétique.
Parmi les autres contributeurs synthétiques figuraient Mme Bennet de Jane Austens Orgueil et préjugés (1813); Winston Churchill, avec un discours parlementaire entraînant ; et Oscar Wilde, improvisant une scène sur le thème de l’IA jusque-là inconnue de L’importance d’être sérieux (1895):
« LADY BRACKNELL : Je ne vois vraiment pas pourquoi vous faites tant d’histoires. C’est parfaitement simple. Le contenu du monde sera bientôt créé par l’IA et il n’y a rien à faire à ce sujet.
GWENDOLYN : Mais maman, tu ne peux pas être sérieuse !
Le pouvoir de la PNL
Cette création déploie une technologie connue sous le nom de traitement du langage naturel (NLP), dans laquelle un ordinateur peut être entraîné sur des millions de pages de textes classiques et d’autres contenus en ligne pour interagir avec un utilisateur humain soit par invite, soit par reconnaissance vocale. Diverses IA comme celles-ci ont été créées.
Celui que nous avons utilisé appartenait à la même catégorie large que LaMDA, un NLP appartenant à Google qui vient de faire la une des journaux après qu’un de ses ingénieurs en logiciel a affirmé qu’il était sensible. Google nie cette affirmation et a suspendu l’ingénieur pour violation de la confidentialité commerciale.
Les affirmations des ingénieurs semblent discutables, car il y a peu de preuves que l’IA a encore atteint la sensibilité, ou peut-être même le fera jamais. Mais les IA sont certainement déjà capables de tout reproduire, des reportages financiers aux chansons synthétiques de Nirvana, en passant par les productions de Rembrandt et de Fellini.
Nous avons vu une IA produire des images à la manière d’un Peinture moghole d’un ordinateur essayant de persuader une foule d’hommes sages qu’il est devenu sensible, et des contrefaçons profondes du rappeur Kendrick Lamar dans le rôle d’OJ Simpson. Des visages humains synthétiques sont créés auxquels nous faisons plus confiance que les vrais. De toute évidence, le potentiel de désinformation dans cet espace est important.
Biais de réplication
Pour former nos rédacteurs, nous avons travaillé avec les praticiens de l’IA Marina Petrova et Bruce Amick de l’agence new-yorkaise Intentful. Ils ont entraîné l’IA à sonner exactement comme les individus dont ils imitaient le style, en utilisant pour chacun quelque 100 000 mots disponibles dans le domaine public.
Dans notre débat, nous voulions voir dans quelle mesure les IA pouvaient reproduire de manière crédible le texte créatif du passé, et quels seraient ses résultats compte tenu de sa propre créativité. Même de grands artistes humains concèdent leur traitement des données d’entraînement de leurs ancêtres. Comme disait Picasso : Les bons artistes copient, les grands artistes volent.
Lorsque nous avons demandé à Jane Austen AI d’adopter le style de Mme Bennet de Pride and Prejudice, elle a repris de manière fascinante (bien que déprimante) les stéréotypes de genre de l’œuvre originale :
« MME BENNET : Comme beaucoup d’entre vous le savent, mon mari et moi avons cinq merveilleuses filles. Et comme toute bonne mère le ferait, je ne veux rien de plus qu’ils soient heureux et réussissent dans la vie.
Mais pour être heureuses et réussir, elles doivent trouver de bons maris. Et pour trouver de bons maris, ils doivent être attirants pour les prétendants potentiels.
C’était un rappel clair, comme l’ont découvert de nombreux développeurs d’IA, que le biais dans les données de formation produira un biais dans la sortie.
Nous avons demandé à l’IA d’Oscar Wilde d’écrire une pièce dans le style d’Oscar Wilde, où les personnages discutent pour savoir si la plupart du contenu mondial sera bientôt créé par l’IA. Nous n’avons pas précisé le jeu ou les personnages, mais l’IA a choisi par défaut le casting classique d’Algernon, Gwendolyn et Lady Bracknell de L’importance d’être sérieux. Il a également inventé un nouveau personnage Sir Richard. (Il y a une œuvre de Sir Robert dans Wildes, mais dans Un mari idéal.)
Quant à l’AI Shakespeare, il apprit la langue vernaculaire de ses pièces :
« Quand les machines font le travail qui leur a été assigné
Et créez le contenu qui abonde
Eh bien, soyez tous libres de faire les choses que nous aimons
Et laissez le travail ennuyeux se faire avec des gants.
Fait intéressant, il semble avoir cherché un synonyme de main pour rimer avec amour, et opté pour le gant métaphorique.
Lorsque nous avons mis l’IA Shakespeare en opposition à la motion, elle a trouvé une manière tout aussi poétique de justifier l’intervention humaine :
« Je ne concéderai pas de sitôt que l’IA sera la meilleure
Les œuvres des humains ne doivent pas être pensées !
Nous avons l’avantage, voyez-vous, que nous
Peut raisonner et créer, tandis que les machines ne servent que
Notre enchère. Ils peuvent apprendre, c’est vrai, mais ils
Ne sont pas vivants comme nous le sommes, et donc leurs œuvres
Sera toujours inférieur au nôtre. Laissez-nous
Ne pas céder notre domination des arts à ces
Des machines irréfléchies qu’ils ne peuvent pas comprendre
La beauté et le sens de nos mots.
Pendant ce temps, l’AI Churchill soulignait l’impératif de l’heure :
« Mes concitoyens, je me tiens devant vous aujourd’hui pour parler d’une grave menace pour notre société. Je parle de la menace de l’intelligence artificielle…
Nous devons résister à cette menace. Nous devons riposter. Nous devons défendre notre droit de penser par nous-mêmes. Nous devons défendre notre droit de contrôler nos propres esprits.
Churchill a ensuite neutralisé de manière préventive les arguments potentiels les plus puissants de l’opposition dans cette affaire, l’accusation selon laquelle il pourrait être un luddite, avant de fournir une conclusion puissante et saccadée :
« Certains disent que l’IA créera une utopie, où tous nos besoins seront satisfaits et où nous pourrons enfin vivre en harmonie avec la technologie. Mais je dis que c’est un paradis de fous. L’IA ne créera pas une utopie, elle créera une dystopie. Un monde où les machines sont aux commandes et où les humains ne sont guère plus que des esclaves.
Et après?
Ce projet était amusant, mais il est important de dire ce que nous ne disons pas. Nous ne disons pas que c’est ce que ces grands individus auraient dit à ce sujet. Nous ne disons pas que l’IA est créative.
L’IA ne fait qu’explorer statistiquement des ensembles de données d’entraînement. En raison de sa nature stochastique impliquant des variables aléatoires chaque fois que vous fournissez la même invite, cela donnera en fait une réponse différente (à un moment donné, Shakespeare a même commencé à proposer des sonnets).
Nos fac-similés de ces personnages ne sont indicatifs d’aucune sensibilité. Et tout comme un PNL peut construire une version du discours de Winston Churchill ou une conversation de Mme Bennet dans Jane Austens Orgueil et préjugésafin qu’il puisse construire une discussion sur la sensibilité de l’IA avec un ingénieur de fin de soirée.
Il est vrai que les systèmes de PNL deviennent efficaces pour reproduire la conversation avec finesse, et même un engagement quasi intellectuel. Mais d’après des dizaines de discussions avec des personnes des principales sociétés mondiales d’IA, personne ne nous a dit qu’ils pensaient que leurs systèmes étaient sensibles dans certains cas, bien au contraire.
Malgré le débat sur la pyrotechnie, l’IA est encore loin de l’article fini ; encore un tout-petit au mieux, même s’il grandit vite. Que la sensibilité se produise ou non, nous devrons, en tant que société, nous attaquer à ces technologies, à leurs opportunités et à leurs implications.
Cet article est republié de The Conversation sous une licence Creative Commons. Lire l’article d’origine.
Crédit d’image : Natalie B/Pixabay