Il s’agit là d’une crainte et d’une problématique loin d’être nouvelle. La perte de contrôle humain sur le progrès technologique est un sujet ayant fait les grandes heures des films et romans de science-fiction depuis des décennies. Néanmoins, depuis une période plus récente, le sujet refait son apparition de façon persistante et ceci pour une bonne raison. Il semble en effet que la réalité n’ait jamais été aussi près de rejoindre les hypothèses de la science-fiction d’hier. Intelligence Artificielle, robotique, voiture autonome, etc, le progrès technologique peut-il échapper au contrôle humain ?
Un sujet majeur de la science-fiction
Le sujet des machines prenant le contrôle des humains est dans la fiction pour ainsi dire aussi prolifique que celui des invasions extraterrestres. Qu’il s’agisse de cinéma ou de romans, les classiques du genre ne manquent pas. Parmi les incontournables œuvres cinématographiques, nous pouvons notamment citer les sagas Matrix, Terminator, I.Robot ou bien encore le chef-d'œuvre de Stanley Kubrick “2001 L’Odyssée de l’espace”. Si tous ces films ont pour fil conducteur la prise du pouvoir totale ou partielle par des intelligences artificielles, les angles avec lesquels le sujet est abordé en revanche divergent quelque peu. En effet, si dans Matrix et Terminator le futur voit sans ambiguïté l’humanité devenir l’esclave des machines, la nuance est beaucoup plus présente dans les deux autres œuvres citées. Dans I.Robot par exemple, l’histoire s’inspire (partiellement) des œuvres du romancier Isaac Asimov, mais surtout de la complexité induite par les Trois lois de la Robotique (dite lois d’Asimov). Celles-ci stipulent que :
1) Un robot ne peut porter atteinte à un être humain ni rester passif, si un humain est en danger,
2) Un robot doit obéir aux ordres des êtres humains, sauf si ceux-ci entrent en contradiction avec la première loi,
3)Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec une des deux lois précédente.
Comme le montre très bien le film, ces trois lois a priori simples sur le papier peuvent en réalité assez vite se heurter à la complexité de la réalité. Dans 2001 L’Odyssée de l’espace, l’angle choisi par Kubrick est également aussi subtile qu’ambigu. Il n’est alors pas vraiment question de jugement de valeurs définitif sur le progrès technique, mais plutôt d’un questionnement laissant le spectateur dans l’expectative. Le progrès est dans un premier temps une avancée positive avant de soulever des problématiques vertigineuses auxquelles Kubrick ne donne jamais vraiment la réponse.
La réalité a-t-elle rattrapé la fiction ?
La dernière révolution en date nommée Chat GPT constitue une véritable rupture technologique. Il s’agit de l’arrivée d’une intelligence artificielle qui pour la première fois a rendu crédible le remplacement de l’humain par la machine dans des secteurs jusqu’ici trop pointu (ou intellectuel). Si la robotisation de l’industrie n’est pas nouvelle et que des ordinateurs battaient déjà des joueurs d'échecs, l’intelligence artificielle rentre désormais dans une nouvelle ère. Il ne s’agit désormais plus du remplacement de l’humain sur les chaînes d’assemblage pour exécuter des tâches répétitives, mais dans des secteurs tels que la médecine, le Droit, la traduction, la rédaction, le trading, la création artistique et bien d’autres. Des pans entiers du marché de l’emploi seraient ainsi voués à disparaître d’ici à quelques décennies. Peut-être plus grave encore, la part de plus en plus grande d'une l'intelligence artificielle de plus en plus autonome dans le secteur militaire n’est pas sans rappeler un certain Terminator. Des drones militaires sont déjà capables de prendre des décisions de tir de façon autonome. Mais là où les choses deviennent encore plus troublantes, c’est quand lors d’un essai réalisé par l’armée américaine, un drone doté d’une IA aurait pris la décision de tuer son opérateur, car celui-ci mettait en péril sa mission d’origine en annulant celle-ci. Tout ceci n’a eu lieu que dans un simulateur, personne n’a donc été blessé ou pire. Néanmoins, c’est précisément ce genre d’événement qui pose de sérieuses questions. Que se passera-t-il si l’IA devient décisionnaire dans le domaine militaire, ou pire, celui nucléaire ? Restera-t-il des humains dans la chaîne de décisions en cas de problème ? Face à toutes ces questions, certaines instances commencent à légiférer, à l’image de l’Union Européenne qui a dévoilé son AI Act (Artificial Intelligence Act) le 1 avril 2021 dont l’objectif est d’encadrer l’utilisation de l’intelligence artificielle. Ce projet de loi crée notamment quatre catégories de risque liées à l’intelligence artificielle allant du risque “inacceptable” à “minime”. Une loi similaire semble faire son chemin aux Etats-Unis, mais étant donné qu’il s’agit désormais d’une véritable course contre-la-montre, la question est n’est-il pas déjà trop tard ? En effet, l’intelligence artificielle est déjà partout dans nos vies quotidiennes comme une forme d'addiction ou de perte de repère comme chez certains joueurs de casino qui doivent parfois utiliser un logiciel d'auto-blocage.
