41

Essai sur la responsabilité, le jugement et l’intelligence artificielle

Une vieille question, sous un nouveau jour

Il y a quelque temps, j’ai publié un article intitulé : « L’IA est-elle un auteur, un éditeur ou un miroir ? »

J’y posais une question qui me semblait plus importante que celle qui revient sans cesse :  « Ce texte a-t-il été écrit par un humain ou par une machine ? »

À mes yeux, la vraie question était ailleurs : qui écrit, certes, mais surtout qui assume réellement la pensée exprimée dans un texte ?

J’y rappelais aussi que cette interrogation n’est pas née avec l’IA.
Depuis longtemps, l’écriture soulève des questions d’auteur, de réécriture, de correction, d’influence et même de style comme preuve supposée d’intelligence.

L’IA ne fait donc pas apparaître un problème entièrement nouveau. Elle rend simplement plus visible une confusion ancienne : celle entre produire un texte et produire une pensée.

Car l’IA peut reformuler, structurer, corriger, proposer et parfois même contredire. Mais elle ne peut pas répondre d’une idée. Elle ne peut pas l’expliquer comme expérience vécue, ni l’assumer comme position intellectuelle.

Cette responsabilité reste celle de l’auteur.

Quand le débat tourne en rond

Depuis, je lis chaque jour de nombreux articles sur l’IA. Je comprends que le sujet fascine autant qu’il inquiète. Il touche à l’écriture, à la création, au travail, à l’intelligence, à la place de l’humain.

Mais à force de lire ces articles, un autre problème m’est apparu.

Ce n’est pas seulement l’IA qui répète.

C’est aussi notre manière de débattre de l’IA.

Les mêmes questions reviennent sans cesse :

• L’IA va-t-elle remplacer les écrivains ?
• Peut-on encore distinguer un texte humain d’un texte artificiel ?
• Faut-il avouer qu’on utilise ChatGPT ?
• Un texte assisté par IA est-il encore authentique ?

Ces questions sont légitimes. Mais trop souvent, elles sont formulées comme si personne ne les avait jamais soulevées auparavant.

Le problème n’est pas que l’on parle trop de l’IA.

La difficulté apparaît lorsque le débat devient pauvre, lorsqu’il se contente de répéter les mêmes oppositions :

• humain contre machine ;
• authenticité contre assistance ;
• création contre automatisation.

La responsabilité ne se délègue pas

Par moments, on croirait entendre résonner encore un imaginaire façonné par plusieurs décennies de science-fiction. Depuis Terminator, l’idée d’une machine intelligente échappant à son créateur est devenue une figure familière de notre culture. Le cinéma n’est évidemment pas responsable à lui seul des inquiétudes actuelles, mais il a contribué à installer une représentation de l’intelligence artificielle comme une menace potentielle, avant même que celle-ci ne fasse son entrée visible dans notre quotidien.

Si l’intelligence artificielle doit nous inquiéter, ce n’est peut-être pas d’abord pour sa capacité à produire des textes, à reformuler des idées ou à imiter certaines formes de création humaine. Les enjeux les plus graves apparaissent déjà ailleurs : dans les usages militaires et sécuritaires, où des systèmes d’IA participent à l’analyse d’informations, à l’identification de cibles et à l’accélération des décisions.

Vous souvenez-vous de l’époque où l’ordinateur est entré dans les entreprises ? On entendait alors souvent : « C’est une erreur de l’ordinateur. » Pourtant, un ordinateur ne fait que traiter les données et les instructions que nous lui fournissons.

Cette vieille formule révélait déjà une tendance à transférer à la machine une responsabilité qui demeure humaine.
Ce mécanisme n’est d’ailleurs pas nouveau. Il y a plus de vingt ans déjà, les guerres en Irak popularisaient des expressions comme « frappes chirurgicales » ou « dommages collatéraux ». Aujourd’hui, alors que l’intelligence artificielle participe à l’identification des cibles et accélère la chaîne de décision militaire, le vocabulaire a peu changé. Les machines évoluent. Les euphémismes, eux, demeurent.

Depuis 2023, les conflits à Gaza, au Liban ou plus récemment en Iran ont rendu cette réalité plus visible encore. Plus les systèmes techniques s’interposent entre la décision et ses conséquences, plus la responsabilité semble se dissoudre.

Pourtant, la question demeure entière.

Qui est l’auteur d’un massacre ?

L’algorithme qui recommande une cible ? L’analyste qui valide ? Le commandement qui ordonne ? Le pilote qui exécute ? Ou le pouvoir politique qui décide ?

La multiplication des intermédiaires ne fait pas disparaître la responsabilité humaine. Elle permet seulement à chacun d’en revendiquer une part toujours plus petite.

Des crimes de guerre sans auteurs n’existent pas.

Quand l’homme imite la machine

Mais revenons au domaine civil. Car c’est malheureusement là que se concentre aujourd’hui une grande partie du débat public.

La vieille opposition entre la puissance du discours et la vérité du discours se manifeste aussi dans certaines réactions face à l’IA.
J’ai même lu récemment, ailleurs sur le Web, le texte d’un professeur écrivain qui dénonçait une forme de concurrence déloyale exercée par l’IA.

Cette plainte m’a troublé, non parce qu’elle était entièrement illégitime, mais parce qu’elle semblait accorder à l’IA ce qu’elle ne possède précisément pas : la capacité de produire une pensée.

L’IA ne crée donc pas un nouveau problème philosophique. Elle réactive une vieille question socratique : Faut-il juger un texte à son éloquence ou à la vérité qu’il porte ?

Si nous en venons à croire qu’une machine nous fait concurrence sur le terrain de la réflexion elle-même, alors le problème n’est peut-être pas la puissance de l’IA.

Le problème est que nous avons cessé d’habiter pleinement notre propre pensée, ce qui est certainement plus grave encore que de ne plus savoir lire.
Car si la lecture n’améliore pas notre capacité de raisonnement, alors à quoi bon ?

Montaigne préférait déjà une tête bien faite à une tête bien pleine. Son avertissement n’a sans doute jamais été aussi actuel. Car notre esprit ne risque plus seulement d’être encombré de savoirs, mais désormais d’être submergé par des textes générés plus vite que certains ne seront capables d’en comprendre le sens.

À mesure que l’IA s’impose dans notre quotidien, les prises de position se multiplient.
Chez certains, elle devient presque un réflexe compulsif.

Nous en voyons déjà un symptôme : au lieu de nous demander si un texte est vrai, juste ou éclairant, nous le parcourons en diagonale, à la recherche d’indices permettant de savoir qui — ou quoi — l’a écrit.
Pourtant, un raisonnement erroné ne devient pas plus juste parce qu’il est humain.
C’est peut-être cela, le vrai paradoxe : au moment même où l’on accuse l’IA de produire des textes répétitifs, une partie de l’écriture humaine sur l’IA devient elle-même répétitive.

Cet essai aurait pu s’intituler : « Le véritable problème n’est pas que l’IA écrive. C’est que les humains se répètent. »

J’aurais aussi pu l’appeler : « Quand les humains écrivent sur l’IA comme des machines. »

Ou, plus provocateur encore : IA ! IA ! IA !

Comme un braiement : à force de reprendre les mêmes questions sur l’IA sans vraiment les approfondir, le débat finit parfois par ressembler moins à une pensée qu’à un écho.

Mais entendons-nous bien.

Je ne veux pas dire qu’il ne faut plus écrire sur l’IA. Au contraire. Mais écrire sur un sujet déjà saturé suppose d’y apporter un angle, une distinction, une idée, quelque chose qui justifie une nouvelle prise de parole.

Qui nourrit qui ?

On pourrait alors ouvrir une autre question : qui a nourri la machine ?

Car l’IA n’est pas apparue dans le vide. Elle a été instruite par des milliards de textes, de conversations, de données, d’échanges humains, notamment à travers Internet et les technologies de communication.

En ce sens, c’est bien l’intelligence humaine qui a instruit l’intelligence artificielle.

Mais peut-être que ce qui inquiète l’humain n’est-il pas seulement que la machine l’imite, mais que l’élève finisse par dépasser le maître. Blade Runner avait déjà saisi cette inquiétude : la créature y devient un miroir troublant, révélant moins ce qu’elle est que ce que son concepteur ne comprend plus de lui-même.

Il faut toutefois ajouter une nuance essentielle : posséder des connaissances ne signifie pas encore avoir conscience de soi.

Connaître n’est pas vivre. Et vivre ne consiste pas seulement à accumuler des expériences, mais à se laisser transformer par elles et à répondre ensuite de ce que l’on devient.
Ce n’est peut-être pas ce qu’une intelligence sait qui la définit, mais ce qu’elle est capable d’assumer.

L’IA peut traiter, recomposer et restituer des formes issues de l’expérience humaine, mais elle ne possède pas encore cette expérience comme une conscience.

Nous pouvons bien sûr extrapoler. La science-fiction explore ces questions depuis longtemps.
Mais ce n’est peut-être pas le débat le plus urgent.

Il est troublant d’être perplexe devant ce que nous avons nous-mêmes conçu.
Cette perplexité devrait peut-être nous inviter à davantage d’humilité.

Efforçons-nous plutôt d’avoir des débats de fond, plus constructifs, capables de nous apprendre quelque chose sur l’IA, mais aussi sur nous-mêmes : sur certaines facettes de l’esprit humain, sur notre manière de penser, de transmettre, d’imiter, de créer et de croire.

Et peut-être cela nous rappellera-t-il que nous sommes nous-mêmes le résultat d’une intelligence plus vaste, qui se manifeste partout, de l’infiniment grand à l’infiniment petit.

Peut-être que l’intelligence artificielle ne nous oblige pas d’abord à nous demander ce qu’elle devient, mais ce que nous sommes en train de devenir nous-mêmes.

Et peut-être ce détour nous ramène-t-il à une interrogation plus ancienne encore : celle de l’intelligence à l’œuvre dans le monde réel.