Avec les avancées de l’IA, l’humanité signe-t-elle son arrêt de mort ? Les leaders de l’intelligence artificielle lancent l’alerte dans une déclaration en ligne sur les menaces d’extinction de l’espèce humaine avec l’essor de l’intelligence artificielle. La lutte contre les risques liés à l’IA devrait être « une priorité mondiale au même titre que d’autres risques à l’échelle de la société, tels que les pandémies et les guerres nucléaires », écrivent les signataires sur le site internet du Center for AI Safety, une organisation à but non lucratif basée aux Etats-Unis. Parmi les signataires, on trouve des grandes figures du domaine comme Sam Altman, créateur de ChatGPT ou Geoffrey Hinton, considéré comme l’un des pères fondateurs de l’intelligence artificielle.

Pascal Picq, paléo-anthropologue, a participé à l’ouvrage Le sens de la tech (Philosophie magazine) où il revient sur les grands défis de la technologie. Il nous aide à y voir plus clair sur les risques réels de l’IA pour le futur de l’espèce humaine.

Doit-on craindre de voir l’humanité s’éteindre avec les progrès de l’intelligence artificielle ?
Il faudrait d’abord que les signataires de la tribune précisent de quel type d’intelligence artificielle il s’agit et comment elle va éliminer les humains. Le débat n’est pas récent, il avait commencé par les robots tueurs et les drones tueurs. C’est bien réel, ce sont des armes de destruction, mais c’est comme la menace atomique. Il y a de quoi s’inquiéter de lâcher des technologies capables de tirer de tous les côtés en fonction de leur programmation. Le débat a au moins une quinzaine d’années. L’arrivée de ChatGTP pose la question de l’accès du grand public à l’IA générative. Jusqu’à présent, l’IA allait chercher des données sur des connaissances scientifiques ou littéraires, validées et reconnues. La difficulté avec ces systèmes capables de créer des nouveaux contenus c’est qu’ils n’ont pas de validation scientifique. Mais cette inquiétude s’inscrit dans ce qu’on connaît déjà avec les réseaux sociaux. La vérité n’est plus basée sur la démonstration, elle est basée sur le fait que des faits ou des mensonges sont répétés de manière continue. Le vrai problème concerne le rapport à la connaissance et à une compréhension partagée du monde. Cela m’inquiète beaucoup.

Le cerveau est fait pour fonctionner et s’il ne fonctionne plus, il se détériore
S’il y a un enjeu de connaissance et de vérité, ne peut-on pas penser que l’IA va transformer l’humain tel qu’on le connaît ?
Dans mon livre L’intelligence artificielle et les chimpanzés du futur (Odile Jacob), je parle du « syndrome de la planète des singes » qui vient du roman publié en 1963. Dans le monde dystopique que décrit Pierre Boulle, les sociétés humaines ont inventé des machines qui permettent de produire des tas de choses et de domestiquer les grands singes -chimpanzés, gorilles et bonobos-. Dans la troisième partie du livre, on découvre comment l’humanité a été dominée par les grands singes. Une femme explique : nous étions tellement bien sur la planète Soror, nous avions des machines et des grands singes qui veillaient à tous nos besoins. Au fil du temps, nous avons cessé d’être actifs intellectuellement et physiquement. C’est le vrai danger. Dans nos sociétés, nous connaissons déjà une véritable perte de qualité physiologique de nos vies avec l’obésité, la sédentarité, qui posent de sacrés problèmes de santé au niveau mondial. Le corps humain, comme le cerveau, est fait pour fonctionner, et s’il ne fonctionne plus, il se détériore. On observe une altération de nos capacités cognitives avec l’usage de ces machines. Ce n’est pas les machines en elles-mêmes qui sont à dénoncer, c’est la manière dont nous les utilisons.

Donc, en quelque sorte, l’humanité va disparaître ?
L’humanité ne va pas disparaître, elle va profondément se transformer. Ces machines sont capables de résoudre énormément de questions et on ne va plus solliciter ce cerveau qui a besoin de fonctionner pour maintenir ses capacités. Il y a aussi un risque de perte de lien social, de focalisation sur soi-même, d’isolement que nous connaissons déjà et qui va certainement s’amplifier avec les IA. Le danger concerne surtout le délitement de ce qui fait le fondement des sociétés humaines depuis deux millions d’années.

Une partie de l’humanité risque plutôt de se retrouver dans des situations de dépendance par rapport aux machines

Les experts évoquent notamment la perte des emplois. En quoi le bouleversement du travail peut-il participer à la fin de notre espèce ?
Dans l’histoire de l’humanité, les révolutions technologiques généralisées ont toujours créé plus d’emplois qu’elles n’en ont détruits. C’est empirique. Deux questions émergent. La première: L’IA est meilleure que nous. Si on fait des machines, c’est pour qu’elles soient meilleures que nous. Les voitures étaient faites pour aller plus vite, elles ne nous ont pas remplacés. Elles ont détruit des emplois dans le monde du transport à cheval, mais d’autres emplois ont été créés dans l’industrie. La deuxième question, c’est: le remplacement. Les machines ne vont pas nous remplacer, elles font des tâches mieux que nous. Elles ne vont pas faire toutes les tâches, elles vont créer de nouveaux métiers. L’évolution de l’humanité est toujours liée aux technologies. Le feu, l’électricité, aujourd’hui l’IA.

Une sorte de sous-homme est-il en train de se dessiner ?
Une partie de l’humanité risque plutôt de se retrouver dans des situations de dépendance par rapport aux machines, incapables d’avoir assez de recul pour prendre des décisions. C’est déjà en partie le cas. Nous sommes une espèce très plastique, on peut changer très rapidement d’un point de vue morphologique (la taille et la forme), physiologique (les fonctions de l’organisme, espérance de vie, santé) et cognitif. La plasticité c’est formidable quand elle s’oriente vers une amélioration objective, elle peut aussi aller dans le mauvais sens quand les contextes ne sont plus du tout adéquats. Et on est déjà en train de le connaître.

20 minutes