Avis | Les êtres humains vont bientôt être éclipsés
Mais Hofstadter fait comprendre l’esprit humain aussi bien que n’importe qui. C’est un humaniste jusqu’aux os, avec un respect pour le mystère de la conscience humaine, qui a écrit de façon émouvante sur l’amour et la profonde interpénétration des âmes. Ses paroles ont donc du poids. Ils m’ont secoué.
Mais jusqu’à présent, il ne m’a pas complètement converti. Je vois toujours ces choses comme des outils inanimés. Lors de notre appel, j’ai essayé de contrer brièvement Hofstadter en affirmant que les bots ne réfléchissaient pas vraiment ; ils ne font que se greffer sur la pensée humaine. Dès notre enfance, nous, les humains, commençons à construire des modèles du monde, et ces modèles sont informés par des expériences difficiles et des expériences joyeuses, des pertes et des délices émotionnels, des triomphes moraux et des échecs moraux, le désordre de la vie humaine. Une grande partie de la sagesse qui en résulte est stockée profondément dans les recoins inconscients de notre esprit, mais une partie est transformée en langage.
L’IA est capable de synthétiser ces expressions linguistiques, que les humains ont mises sur Internet et donc dans sa base d’entraînement. Mais, je soutiens toujours, la machine n’a rien comme une expérience d’apprentissage humaine. C’est jouer en surface avec le langage, mais le processus chargé d’émotion d’apprendre à partir d’une expérience réelle et l’accumulation durement gagnée de ce que nous appelons la sagesse sont absents.
Dans un article pour The New Yorker, l’informaticien Jaron Lanier a soutenu que l’IA est mieux considérée comme une forme innovante de collaboration sociale. Il mélange les expressions linguistiques des esprits humains de manière suffisamment structurée pour être utile, mais ce n’est pas, selon Lanier, l’invention d’un nouvel esprit.
Je pense que je crois toujours à cette vision limitationniste. Mais j’avoue que j’y crois beaucoup moins ardemment que la semaine dernière. Hofstadter demande essentiellement : si l’IA résout de manière convaincante les problèmes intellectuels, alors qui êtes-vous pour dire qu’elle ne pense pas ? Peut-être que c’est plus qu’un simple mélange d’expressions humaines. Peut-être qu’il synthétise la pensée humaine d’une manière véritablement créative, qui produit véritablement de nouvelles catégories et de nouvelles pensées. Peut-être que le type de pensée d’une machine désincarnée qui rencontre le monde principalement à travers le langage est radicalement différent du type de pensée d’un esprit humain incarné, contenu dans une personne qui se déplace dans le monde réel, mais c’est une intelligence de quelque chose. genre, fonctionnant à certains égards beaucoup plus rapidement et supérieur au nôtre. En outre, souligne Hofstadter, ces cerveaux artificiels ne sont pas limités par les facteurs qui limitent les cerveaux humains, comme le fait de devoir tenir à l’intérieur d’un crâne. Et, souligne-t-il, ils s’améliorent à un rythme stupéfiant, contrairement à l’intelligence humaine.