L’irruption de l’intelligence artificielle (IA) entraîne une assourdissante cacophonie. Des figures éminentes du monde technoscientifique, se posent en prophètes de malheurs apocalyptiques. Les chantres des technosciences sont, au contraire, saisis par un orgasme prométhéen à l’idée de faire mieux que la nature grâce à l’étroite collaboration NBIC (Nanotechnologies; Biothechnologies; Info-technologies; Cognitivisme). Toute cette confusion irrationnelle traduit une erreur fondamentale dans la perception de l’enjeu anthropologique qui est au cœur de ce débat: «Qu’est-ce qu’une personne humaine?» Les IA, couplées aux performances des NBIC, feront-elles évoluer l’
En mai 1997, un ordinateur battait aux échecs le champion du monde, Gari Kasparov. Un microprocesseur performant peut donc faire mieux, en matière de traitement de l’information, que le tissu nerveux humain. En mars 2016, on passe à la vitesse supérieure. L’intelligence artificielle AlphaGo, mise au point par la filiale de Google, Deep Mind, bat au redoutable «Jeu de Go» le sud-coréen Lee Sedol. Un constat s’impose: un microprocesseur d’ordinateur ne peut pas s’adapter et se réinventer en permanence; par contre, un logiciel algorithmique de type AlphaGo s’améliore en permanence par «apprentissage» nous dit-on. Présenté ainsi, l’événement impressionne et fait peur quant au risque de voir un jour ces machines apprenantes dépasser l’Homo Sapiens Sapiens dans ce qui lui appartient en propre : connaître et être conscient de connaître.
Nick Bostrom, expert en NBIC, et Paul Laurent Alexandre, neurobiologiste président de DNA-Vision, se demandent s’il est sage d’apprendre aux machines du deep-learning à cacher leurs intentions, quitte à tromper et dominer l’homme par leurs stratégies agressives. C’est précisément ce point qui est au cœur de l’émoi provoqué par AlphaGo contre Lee Sedol. Ces machines à calcul dites «intelligentes», seraient-elles dotées d’intentionnalité ? La question est purement métaphysique. Elle porte sur la compréhension de ce qu'est chaque homme, en tant que globalité psycho-physique unique dotée de finitude.
La question fondamentale se formule ainsi : qu’est donc l’intelligence que ces machines sont supposées posséder au même titre que l’homme ? La réponse à cette question est complexe. Elle appartient au domaine de l’histoire des sciences et des idées. Le grand public ignore les conséquences redoutables de la «crise des fondements de la science», apparue dans la première moitié du XIX° siècle. Nous les vivons actuellement. En résumé, cette crise a entraîné une conception purement machinale du réel. Le modèle mécanique de Newton fut érigé en paradigme absolu de la Nature et fut adapté par les sciences du Vivant. En faisant de la biologie, on fait de la mécanique. Toute référence métaphysique aux fondements du réel fut éliminée des sciences naturelles. Les phénomènes observés s’en trouvent dématérialisés et réduits à de pures formes mathématiques, sans substance. Le monde n’est qu’un gigantesque mécano, mû par les lois aveugles et implacables du déterminisme et de la nécessité. Au sein de cette machinerie, l’homme émerge par un hasard à la fois improbable et inintelligible. L’homme est un étranger chez lui, mais intelligent tout de même. Alors c’est quoi cette intelligence humaine?
Pour la science, qui a jeté à la poubelle ses propres fondements, la réponse est dans le modèle des ordinateurs actuels et de leurs logiciels de deep-learning. L’intelligence comme faculté et ses produits comme contenus mentaux, sont aujourd’hui confondus. L’intelligence se réduit mécaniquement à un flux-entrant (input) d’informations qui sont traitées par un réseau de circuits, ou de neurones, et produisent un flux-sortant (output). Ainsi, nos idées et nos pensées ne sont que le produit de l’activité de nos neurones au même titre que notre urine est produite par nos cellules rénales. La simple conscience de soi, la capacité de dire «JE» n’est que le résultat accidentel de l’activité cérébrale. Tout est dans l’organe cerveau. Nos souvenirs sont inscrits dans nos cellules cérébrales comme «engrammes», écho lointain des ombres de la caverne de Platon.
Les transhumanistes se trompent lourdement en établissant un parallélisme entre le cerveau humain et l’ordinateur. «Calculer le moment, appelé singularité, où l’intelligence artificielle dépasserait l’intelligence humaine est un contre-sens» (Israël Nisand). Dans la foulée de la «crise des fondements», certains espèrent se débarrasser de leur corps et transférer le contenu de leur cervelle vers une clé USB, cybernétique oblige. Hallucinés par la théorie de l’information et celle de l’apprentissage, ils en oublient leur propre ontologie. C’est pourquoi ils ont peur des machines qu’ils ont fabriquées et qu’ils qualifient d’intelligentes.
On redoute que ces machines puissent devenir hostiles un jour, quitte à asservir l’humanité et la détruire. Ellon Musk, le génial créateur de Tesla et SpaceX, prévoit que les plus chanceux d’entre nous, deviendront des caniches de compagnie (pets) des algorithmes à l’horizon 2050.
Nous vivons indiscutablement une grande rupture de paradigme. Nous ne sommes malheureusement pas équipés pour faire face, culturellement, à de tels bouleversements. Nous sommes incapables de les «penser» tant nous réduisons notre être personnel à un agglomérat de molécules et de circuits mécaniques.
C’est l’homme, après tout, qui fait les machines et c’est lui qui leur apprend à apprendre par des inputs appelés «prompts».
Point n’est besoin de paniquer. Il suffit de relire les textes du pape des Neurosciences, Walter Freeman III (1927- 2016) pour retrouver un peu de sérénité humaine : «Les opérations d’apprentissage comprennent le processus d’intentionnalité par lequel les cerveaux construisent le Sens. Le fait premier des cerveaux est le sens et en deuxième lieu seulement l’information. […] Le processus de reconnaissance commence de l'intérieur». En d’autres termes, on regarde, ensuite on voit. Nous prétraitons, de l’intérieur, l’information externe, le input, de même que nous post-traitons le output. Nous saisissons le monde en sujets agissants parce que nous sommes des créatures dotées d’esprit (mindful creatures) et non des mécanismes qui en sont dépourvus (mindless devices). Malheureusement, le Paranthrope algorithmique que nous sommes devenus ne veut pas comprendre cette salutaire distinction.
Faut-il avoir peur ? Oui, mais de l’homme lui-même et non des machines. Le mal, en ce monde, est incapable de faire quoi que ce soit sans son outil privilégié, la liberté humaine.
Comment se prémunir contre ce danger? Il est urgent et prioritaire de revoir tous nos programmes éducatifs. Les pédagogies modernes sont des dressages cognitivistes, basés uniquement sur l’information et l’apprentissage. Les machines font mieux que nous dans ce domaine. Mais elles demeurent dépourvues d’intentionnalité. S’il est urgent de lutter contre la triche et le plagiat dans l’enseignement, il est encore plus urgent de redonner confiance en soi à l’élève et à l'étudiant, au petit de l’homme. Ce n'est point un apprenant comme les algorithmes IA, c'est un sujet connaissant. Toutes nos évaluations écrites sont à revoir. Un retour vers l’évaluation orale serait un premier pas salutaire au nom de notre humanité. La réponse intelligente à nos peurs fantasmées de l’IA commence par une révision déchirante de nos systèmes éducatifs afin de retrouver l’humanisme ou le paradis perdu de notre intelligence humaine.
acourban@gmail.com
En mai 1997, un ordinateur battait aux échecs le champion du monde, Gari Kasparov. Un microprocesseur performant peut donc faire mieux, en matière de traitement de l’information, que le tissu nerveux humain. En mars 2016, on passe à la vitesse supérieure. L’intelligence artificielle AlphaGo, mise au point par la filiale de Google, Deep Mind, bat au redoutable «Jeu de Go» le sud-coréen Lee Sedol. Un constat s’impose: un microprocesseur d’ordinateur ne peut pas s’adapter et se réinventer en permanence; par contre, un logiciel algorithmique de type AlphaGo s’améliore en permanence par «apprentissage» nous dit-on. Présenté ainsi, l’événement impressionne et fait peur quant au risque de voir un jour ces machines apprenantes dépasser l’Homo Sapiens Sapiens dans ce qui lui appartient en propre : connaître et être conscient de connaître.
Nick Bostrom, expert en NBIC, et Paul Laurent Alexandre, neurobiologiste président de DNA-Vision, se demandent s’il est sage d’apprendre aux machines du deep-learning à cacher leurs intentions, quitte à tromper et dominer l’homme par leurs stratégies agressives. C’est précisément ce point qui est au cœur de l’émoi provoqué par AlphaGo contre Lee Sedol. Ces machines à calcul dites «intelligentes», seraient-elles dotées d’intentionnalité ? La question est purement métaphysique. Elle porte sur la compréhension de ce qu'est chaque homme, en tant que globalité psycho-physique unique dotée de finitude.
La question fondamentale se formule ainsi : qu’est donc l’intelligence que ces machines sont supposées posséder au même titre que l’homme ? La réponse à cette question est complexe. Elle appartient au domaine de l’histoire des sciences et des idées. Le grand public ignore les conséquences redoutables de la «crise des fondements de la science», apparue dans la première moitié du XIX° siècle. Nous les vivons actuellement. En résumé, cette crise a entraîné une conception purement machinale du réel. Le modèle mécanique de Newton fut érigé en paradigme absolu de la Nature et fut adapté par les sciences du Vivant. En faisant de la biologie, on fait de la mécanique. Toute référence métaphysique aux fondements du réel fut éliminée des sciences naturelles. Les phénomènes observés s’en trouvent dématérialisés et réduits à de pures formes mathématiques, sans substance. Le monde n’est qu’un gigantesque mécano, mû par les lois aveugles et implacables du déterminisme et de la nécessité. Au sein de cette machinerie, l’homme émerge par un hasard à la fois improbable et inintelligible. L’homme est un étranger chez lui, mais intelligent tout de même. Alors c’est quoi cette intelligence humaine?
Pour la science, qui a jeté à la poubelle ses propres fondements, la réponse est dans le modèle des ordinateurs actuels et de leurs logiciels de deep-learning. L’intelligence comme faculté et ses produits comme contenus mentaux, sont aujourd’hui confondus. L’intelligence se réduit mécaniquement à un flux-entrant (input) d’informations qui sont traitées par un réseau de circuits, ou de neurones, et produisent un flux-sortant (output). Ainsi, nos idées et nos pensées ne sont que le produit de l’activité de nos neurones au même titre que notre urine est produite par nos cellules rénales. La simple conscience de soi, la capacité de dire «JE» n’est que le résultat accidentel de l’activité cérébrale. Tout est dans l’organe cerveau. Nos souvenirs sont inscrits dans nos cellules cérébrales comme «engrammes», écho lointain des ombres de la caverne de Platon.
Les transhumanistes se trompent lourdement en établissant un parallélisme entre le cerveau humain et l’ordinateur. «Calculer le moment, appelé singularité, où l’intelligence artificielle dépasserait l’intelligence humaine est un contre-sens» (Israël Nisand). Dans la foulée de la «crise des fondements», certains espèrent se débarrasser de leur corps et transférer le contenu de leur cervelle vers une clé USB, cybernétique oblige. Hallucinés par la théorie de l’information et celle de l’apprentissage, ils en oublient leur propre ontologie. C’est pourquoi ils ont peur des machines qu’ils ont fabriquées et qu’ils qualifient d’intelligentes.
On redoute que ces machines puissent devenir hostiles un jour, quitte à asservir l’humanité et la détruire. Ellon Musk, le génial créateur de Tesla et SpaceX, prévoit que les plus chanceux d’entre nous, deviendront des caniches de compagnie (pets) des algorithmes à l’horizon 2050.
Nous vivons indiscutablement une grande rupture de paradigme. Nous ne sommes malheureusement pas équipés pour faire face, culturellement, à de tels bouleversements. Nous sommes incapables de les «penser» tant nous réduisons notre être personnel à un agglomérat de molécules et de circuits mécaniques.
C’est l’homme, après tout, qui fait les machines et c’est lui qui leur apprend à apprendre par des inputs appelés «prompts».
Point n’est besoin de paniquer. Il suffit de relire les textes du pape des Neurosciences, Walter Freeman III (1927- 2016) pour retrouver un peu de sérénité humaine : «Les opérations d’apprentissage comprennent le processus d’intentionnalité par lequel les cerveaux construisent le Sens. Le fait premier des cerveaux est le sens et en deuxième lieu seulement l’information. […] Le processus de reconnaissance commence de l'intérieur». En d’autres termes, on regarde, ensuite on voit. Nous prétraitons, de l’intérieur, l’information externe, le input, de même que nous post-traitons le output. Nous saisissons le monde en sujets agissants parce que nous sommes des créatures dotées d’esprit (mindful creatures) et non des mécanismes qui en sont dépourvus (mindless devices). Malheureusement, le Paranthrope algorithmique que nous sommes devenus ne veut pas comprendre cette salutaire distinction.
Faut-il avoir peur ? Oui, mais de l’homme lui-même et non des machines. Le mal, en ce monde, est incapable de faire quoi que ce soit sans son outil privilégié, la liberté humaine.
Comment se prémunir contre ce danger? Il est urgent et prioritaire de revoir tous nos programmes éducatifs. Les pédagogies modernes sont des dressages cognitivistes, basés uniquement sur l’information et l’apprentissage. Les machines font mieux que nous dans ce domaine. Mais elles demeurent dépourvues d’intentionnalité. S’il est urgent de lutter contre la triche et le plagiat dans l’enseignement, il est encore plus urgent de redonner confiance en soi à l’élève et à l'étudiant, au petit de l’homme. Ce n'est point un apprenant comme les algorithmes IA, c'est un sujet connaissant. Toutes nos évaluations écrites sont à revoir. Un retour vers l’évaluation orale serait un premier pas salutaire au nom de notre humanité. La réponse intelligente à nos peurs fantasmées de l’IA commence par une révision déchirante de nos systèmes éducatifs afin de retrouver l’humanisme ou le paradis perdu de notre intelligence humaine.
acourban@gmail.com
