par Sir Roger Penrose.
Avec le développement rapide de l’informatique qui a eu lieu dans la seconde moitié du XXe siècle, les « informaticiens », experts dans la conception de telles machines, ont eu un succès remarquable en s’attaquant à des problèmes de difficulté croissante de capacité de calcul. Par exemple, la capacité des super-ordinateurs capable de jouer aux échecs avec des adversaires humains – et généralement à en sortir victorieux – est bien connue. La capacité des machines à analyser des données complexes de la finance et à prédire l’issue probable de certains plans d’action s’est avérée d’une valeur considérable. Il est certain que la vitesse à laquelle les machines exécutent leurs tâches est très impressionnante comparée à n’importe quel humain. D’autres applications ont également été réalisées dans les domaines de la robotique, et même de la psychologie. Il semble presque que les ordinateurs puissent « penser ».
Parmi la communauté d’informaticiens se trouve un sous-groupe particulièrement intéressé par le concept d ‘«intelligence artificielle» ou «IA». Beaucoup de temps, d’énergie et d’argent ont été consacrés à la poursuite de son développement. Il y a un sous-groupe encore plus petit qui proclame que ce n’est qu’une question de temps avant que la capacité des ordinateurs soit égale à celle de tout être humain. Certains membres de ce groupe considèrent que les machines actuelles «pensent» et possèdent déjà une «conscience», mais à un niveau encore primitif. Ces vues, généralement qualifiées de «IA fort», font l’objet de critiques de Roger Penrose dans “The Emperor’s New Mind: Concerning Computers, Minds, and the Laws of Physics”.
Sir Roger Penrose, professeur de mathématiques à l’Université d’Oxford, raconte qu’il a été « poussé» à écrire ce livre, en réponse aux déclarations diffusées à la télévision par les partisans des IA. Roger Penrose apprécie les exploits déjà accomplis, et susceptibles d’être accomplis à l’avenir, du niveau de vitesse, de précision et de complexité des ordinateurs qui dépassent de loin les capacités humaines. Son objection est qu’il est impossible qu’à l’avenir, toute l’activité mentale humaine puisse être dupliquée par des ordinateurs. Ses objections, en partie, reposent sur des raisons philosophiques. Mais son argumentation principale, présentée dans “The Emperor’s New Mind”, est basée sur la physique et les mathématiques modernes, une approche qu’aucun auteur précédent n’avait adoptée. Pour étaille sa these, Penrose utilise «Adam» comme porte-parole dans son prologue et son épilogue. Adam est «« lepetit garçon du troisième rrang » Lors de la cérémonie de pprésentationde «Ultronic», le supercalculateur du futur; c’est Adam qui pose une question qu’Ultronic ne peut comprendre, encore moins réponse. En choisissant un titre qui fait allusion aux «Nouveaux vêtements de l’empereur» de Hans Christian Andersen, Penrose révèle sa véritable opinion sur les IA.
Penrose conclue que l’esprit humain ne peut jamais être dupliqué par une machine d’aucune sorte. Pour persuader le lecteur d’accepter ses vues, Penrose rassemble un éventail impressionnant de concepts nés de la physique et des mathématiques du XXe siècle. Ses idées, souvent surprenantes, exige beaucoup d’attention et de compréhension du lecteur, mais pour ceux qui persévèrent à suivre l’argument de Penrose, les résultats rendront cet effort utile. Les lecteurs déjà familiarisés avec la physique mathématique du XXe siècle trouveront la présentation de Penrose pleine d’idées précieuses. Notamment concernant les interconnexions entre une variété de sujets, allant de la relativité à la mécanique quantique en passant par les ensembles de Mandelbrot et le théorème de Godel’s, et leur pertinence par rapport à la question de l’intelligence artificielle. Pour le lecteur profane moyen, la richesse du matériel que Penrose présente aussi doucement et minutieusement que possible se révélera difficile mais très informative sur la pensée scientifique actuelle.
Penrose est un homme aux intérêts et aux connaissances variés. En plus de ses propres domaines d’expertise en physique mathématique, il connaît bien l’histoire des mathématiques et de la physique et l’état actuel de la compréhension du fonctionnement du cerveau humain. Il a profondément réfléchi à la relation entre la physique et l’activité mentale, c’est-à-dire au problème «corps-esprit».
Tout en confessant librement ses propres perspectives philosophiques, il soutient vigoureusement que les partisans de l’IA fort ont clairement tort quand ils disent que l’esprit humain est fondamentalement un ordinateur. Et que toute machine qui utilise un algorithme est capable de «conscience et de « pensée ».
Penrose insiste beaucoup sur la nature algorithmique du fonctionnement des machines informatiques. Un algorithme est simplement une procédure de calcul qu’un humain peut ordonner (ou «programmer») à une machine d’exécuter. Les enfants à l’école apprennent les algorithmes de multiplication et de division, par exemple. Comme le souligne Penrose, cependant, il n’existe pas d’algorithme pour décider quelle opération est appropriée à effectuer dans une situation particulière. De plus, l’exécution d’un algorithme par un ordinateur (ou par un être humain d’ailleurs) n’est pas la même chose que la compréhension. En expliquant le concept d’algorithmes, Penrose discute des expériences de pensée, comme l’argument de John Searles sur la «salle chinoise», que les lecteurs trouveront intéressant et éclairant en eux-mêmes. Les lecteurs trouveront leurs propres perspectives élargies ainsi que leur vocabulaire.
Dans les chapitres 3 à 8, Penrose est soucieux de fournir au lecteur un exposé habile d’un certain nombre de sujets en physique et en mathématiques, choisis par lui pour leur pertinence apparente et pour sa thèse globale sur la nature de l’intelligence. Ces chapitres ne sont pas faciles à lire. Penrose ne « parle jamais » au lecteur ni ne dilue le contenu intellectuel du sujet en question, mais il reconnaît et sympathise avec la difficulté que de nombreux lecteurs éprouveront à faire face à la multitude de concepts et au nouveau vocabulaire introduit. Il utilisera fréquemment des mots nouveaux comme « Magie quantique et mystère quantique ». Ceci afin que nous puissions atteindre une véritable compréhension du monde quantique. Lorsqu’un argument reste flou, je vous conseille de continuer pour d’essayer de se donner une idée de la structure dans son ensemble. Mais ne désespérez pas si une compréhension complète s’avère insaisissable. C’est la nature même du sujet !
Penrose traite honnêtement ses lecteurs, avouant ses propres préjugés, comme une croyance en la réalité mathématique platonicienne. Se déclarant fermement partisan de la sélection naturelle, il se dit «presque abasourdi» par l’un de ses produits, l’esprit humain. Les attributs de l’esprit qui, selon lui, ne seront jamais dupliqués par un ordinateur comprennent l’inspiration, l’intuition et le jugement esthétique. En fait, la formation de jugement de toute nature est considérée comme une marque de «conscience», un terme que Penrose reconnaît comme pratiquement impossible à définir avec précision. En outre, il identifie scrupuleusement lesquelles de ses déclarations sont généralement acceptées par la communauté scientifique, lesquelles sont les plus provisoires et lesquelles sont basées sur ses propres croyances ou idées.
Parmi les idées que Penrose, partagé par ses lecteurs, il y a sa propre conviction que la physique actuelle est tout à fait insuffisante pour comprendre les performances du cerveau humain. Il pense qu’une percée est nécessaire dans le domaine de la gravité quantique, pour que des progrès soient réalisés non seulement pour comprendre le cerveau, mais aussi pour comprendre l’univers de ses plus petits a ses plus grands composants.
La présentation de Penrose nécessite (pour une compréhension et un plaisir complets) un niveau de sophistication assez élevé. Mais cela ne devrait pas dissuader ou décourager le lecteur potentiel qui a déjà lu d’autres présentations moins exigeantes de la physique moderne. Ainsi que ceux qui veulent maintenant en savoir plus sur la physique moderne, le contenu, la façon de penser et les questions sérieusement étudiées qui caractérisent les efforts des scientifiques à la fin du XXe siècle.
Quel que soit leur niveau de compréhension atteint, ou leur degré d’accord avec la perspective globale de Roger Penrose, peu de lecteurs, voire aucun, se retireront de la lecture de The Emperor’s New Mind sans avoir appris quelque chose de valeur.
Tiré et traduit en Français de: https://www.enotes.com/topics/emperors-new-mind/in-depth
