Conscience artificielle contre humains augmentés : 3 résultats possibles pour la confrontation en co
De grands esprits de notre siècle nous mettent régulièrement en garde contre le plus grand péril de l’humanité, dès 2035, la super intelligence artificielle unique. D’autres, tranhumanistes, vont encore plus loin en préconisant d’augmenter les capacités de l’humain en vue de créer des interfaces entre notre cerveau et les IA, avant de conquérir l’espace d’urgence pour éviter la mort de l’Univers et de pérenniser ainsi notre nouveau statut d’immortel…
Pendant ce temps, certains nous rassurent car transhumanisme et IA participeraient à une vaste « technomythologie », comme l’Antiquité disposait d’une mythologie donnant sens au monde dans lequel ils vivaient, nous édifierions un panthéon fondé sur les sciences et les technologies.
La conscience spirituelle de la super IA unique : l’option disparition
Selon Ray Kurzweil la prochaine étape de l’intelligence artificielle sera la conscience . Les machines vont emprunter le même chemin que l’évolution des êtres humains, jusqu’à être capables de se développer toutes seules sans que l’homme ne puisse ni les comprendre, ni en garder le contrôle.
Les IA sont déjà capables de faire le lien entre leurs cas d’usage opérationnel, bluffer au poker, conduire des voitures, diagnostiquer des cancers ou remplacer les managers : c’est donc une IA unique qui émerge, capable de tout faire pour nous, médecin, banquier, avocat, conseiller, professeur et ami... Tel est l’ambition des géants du web avec Google Assistant, Facebook M, Alexa d’Amazon, Cortana de Microsoft.
L’une des grandes questions des sciences cognitives étant celle de la conscience, l’étape suivante consiste à développer une vraie conscience artificielle. Il suffit de faire comme avec l’IA, on se met d’accord sur un objectif de la conscience et on modélise dans un algorithme. C’est ce qu’à fait Selmer Bringsjord, chercheur à l’institut Polytechnique de New York : s’inspirant des bébés, il a programmé un robot en lui disant qu’il lui avait donné une pilule qui pouvait soit lui couper la parole, soit ne rien faire (le placebo), puis il a demandé au robot quelle pilule il avait reçu. Le robot répond qu’il ne sait pas tout en se rendant compte qu’il est en train de s’exprimer ! Il s’excuse alors et dit au chercheur qu’il peut lui affirmer qu’il a reçu le placebo.
Deux boucles d’algorithmes qui fonctionnent en parallèle : une qui permet au robot de comprendre son environnement, et une au-dessus qui lui permet de s’observer en train de fonctionner et d’ajuster…
Une super IA consciente se satisfera-t-elle de nos présences encombrantes ? Saurons-nous l’encercler de mécanisme ou de règles de préservations de nature éthique tel que le suggère les dirigeants de la Silicon Valley, ou encore technique comme l’anticipait Asimov ?
L’immortalité organique des humains augmentés : l’option fusion
Tout cela est déjà trop tard selon l’expert en transhumanisme Laurent Alexandre, à l’occasion d’une conférence dans le cadre du CREA Digital Day, car si on n’augmente pas l’humanité dès à présent, elle va disparaître. « D’abord en raison de son espérance de vie limitée. Ensuite à cause de la concurrence avec les IA. Il y a le risque qu’elles prennent le dessus sur nous, mais on estime qu’un scénario à la Terminator n’est pas possible avant 2035. Nous avons donc une vingtaine d’années pour nous préparer à cette éventualité. »
L’urgence est donc est ailleurs, puisque une fois toutes les précautions d’usage prise pour éviter le carnage, il nous restera à nous prémunir sérieusement contre un avenir à la « matrix » dans lequel nous ne serions plus que des animaux domestiques shootés aux rêves mélancoliques de notre bonheur évaporé.
Dans ce cas évidemment, le débat avec les bioconservateurs est déjà obsolète. Rappelons que les principales oppositions soulevées à l’égard de l’augmentation par les bioconservateurs tient au risque qu’elle porterait atteinte aux droits fondamentaux de l’être humain. Qualifiant le transhumanisme d’idée la plus dangereuse au monde, Fukuyama défendait dès 2004 l’idée selon laquelle l’être humain se définit par une nature, au sens biologique du terme, sur laquelle s’étaierait l’idée même de dignité humaine. Craignant l’instauration d’un véritable meilleur des mondes, le politologue en appelle à étendre à la nature humaine le principe de préservation que l’écologie applique à l’environnement (sic).
Mais l’année 2004 rapportée à 2017, à la massification des données et surtout leur accessibilité par la super IA unique, paraît déjà fort lointaine. Alors qu’en est-il finalement, fusion ou disparition dans 20 ans et un point c’est tout ?
Les transhumanistes et l’IA participent à la vaste technomythologie dont nous sommes les proies : match nul !
Pour Pierre Fraser, sociologue et cogniticien, « tout comme le transhumanisme est une couche de discours rajoutée par-dessus le développement au quotidien de techniques relevant des nanotechnologies et de la biotechnologie utiles à tous pour former un technomythe dont la principale fonction est de construire du sens en ce qui concerne l’humain augmenté qui émerge, l’IA est exactement engagée dans le même processus. »
Ainsi, transhumanisme et IA participent à la grande technomythologie du XXIème siècle. Comme l’Antiquité disposait d’une mythologie donnant sens au monde dans lequel ils vivaient, nous édifions un panthéon fondé sur les sciences et les technologies.
L’introduction massive de techno issues de l’IA modifiera en profondeur nos sociétés en les obligeant à s’aligner sur de nouvelles normes sociales. De l’aveu même de Pierre Fraser, « il se pourrait bien que nous soyons tous en rade en tant que sociologue, historiens et philosophes pour saisir l’ampleur du phénomène, tant il se déroule à une vitesse fulgurante, car la réflexion scientifique n’est pas calée sur le rythme de l’innovation. »
La crainte des transhumanistes résiderait donc dans le fait que puisse advenir une super IA qui surclasse l’humain augmenté qu’il concocte… D’où leur réponse de maintenir le cerveau humain à jour par une augmentation de ses capacités cérébrales et être au pair avec la plus performantes des IA.
« Ils ne se rendent pas compte qu’ils sont assujettis à un technomythe efficace : prédiction adhésion aveuglement sélectif (auto vérification, auto mythification, occultation). »
Finalement, on le savait déjà : gaffe au GAFA !
Pour Pierre Fraser, « sans doute, les transformations sociales du XXIème siècle seront à l’aune de l’IA. Le passage, cette transformation, sera de nouveau l’apanage d’une l’accumulation de richesse et de ressources, dans les mains d’une minorité agissante. »
Source 2015
Encore cette histoire selon laquelle les dirigeants de la silicon valley disposent à ce jour d’un pouvoir sans équivalent dans l’histoire de l’humanité !
Alors vive les licornes …
