316

Essay on Responsibility, Judgement and Artificial Intelligence

An old question, in a new light

Some time ago, I published an article entitled: «Is AI an author, an editor or a mirror?»

I was asking a question there that seemed to me more important than the one that keeps coming up:  «Was this text written by a human or by a machine?»

In my view, the real question lay elsewhere: who writes, certainly, but above all Who actually takes responsibility for the thought expressed in a text?

I also recalled there that this question was not born with AI.
For a long time, writing has raised questions of authorship, rewriting, correction, influence, and even style as supposed proof of intelligence.

AI therefore does not bring to light an entirely new problem. It simply makes an old confusion more visible: that between produce a text and produce a thought.

Because AI can rephrase, structure, correct, suggest and sometimes even contradict. But it cannot answer from an idea. It cannot explain it as a lived experience, nor take responsibility for it as an intellectual stance.

This responsibility remains with the author.

When the debate goes round in circles

Since then, I have been reading numerous articles on AI every day. I understand that the subject fascinates as much as it worries. It touches on writing, creation, work, intelligence, instead of the human.

But by dint of reading these articles, another problem became apparent to me.

It's not just AI that repeats.

This is also our way of debating AI.

The same questions keep coming up over and over again:

• Will AI replace writers?
• Is it still possible to tell the difference between a text written by a human and one generated by a machine?
• Should we admit that we use ChatGPT?
• Is AI-assisted text still authentic?

These are legitimate questions. But all too often, they are phrased as though nobody had ever raised them before.

The problem is not that we talk too much about AI.

The difficulty arises when the debate becomes poor, when it contents itself with repeating the same oppositions:

• man versus machine; ;
• authenticity versus assistance ;
• creativity versus automation.

Responsibility cannot be delegated

At times, you could almost believe you were still hearing the echoes of an imaginary world shaped by several decades of science fiction. Since Terminator, the idea of an intelligent machine escaping its creator has become a familiar trope in our culture. Of course, cinema alone is not responsible for our current concerns, but it has helped to establish a portrayal of artificial intelligence as a potential threat, even before it made a visible appearance in our daily lives.

If artificial intelligence is to worry us, it is perhaps not primarily for its ability to produce texts, to reformulate ideas or to imitate certain forms of human creation. The most serious issues are already appearing elsewhere: in military and security applications, where AI systems participate in information analysis, target identification and the acceleration of decision-making.

Do you remember when computers first started being used in businesses? Back then, you’d often hear people say: «It's a computer error.» Yet, a computer merely processes the data and instructions that we provide it with.

This old formula already revealed a tendency to transfer to the machine a responsibility that remains human.
Besides, this mechanism is not new. More than twenty years ago, the wars in Iraq were already popularising expressions like «surgical strikes» or «collateral damage». Today, as artificial intelligence contributes to the identification of targets and accelerates the military decision-making chain, the vocabulary has changed little. The machines are evolving. The euphemisms remain.

Since 2023, the conflicts in Gaza, Lebanon and more recently in Iran have made this reality even more visible. The more technical systems interpose themselves between the decision and its consequences, the more responsibility seems to dissolve.

Pourtant, la question demeure entière.

Qui est l’auteur d’un massacre ?

L’algorithme qui recommande une cible ? L’analyste qui valide ? Le commandement qui ordonne ? Le pilote qui exécute ? Ou le pouvoir politique qui décide ?

La multiplication des intermédiaires ne fait pas disparaître la responsabilité humaine. Elle permet seulement à chacun d’en revendiquer une part toujours plus petite.

Des crimes de guerre sans auteurs n’existent pas.

Quand l’homme imite la machine

Mais revenons au domaine civil. Car c’est malheureusement là que se concentre aujourd’hui une grande partie du débat public.

La vieille opposition entre la puissance du discours et la vérité du discours se manifeste aussi dans certaines réactions face à l’IA.
J’ai même lu récemment, ailleurs sur le Web, le texte d’un professeur écrivain qui dénonçait une forme de concurrence déloyale exercée par l’IA.

Cette plainte m’a troublé, non parce qu’elle était entièrement illégitime, mais parce qu’elle semblait accorder à l’IA ce qu’elle ne possède précisément pas : la capacité de produire une pensée.

L’IA ne crée donc pas un nouveau problème philosophique. Elle réactive une vieille question socratique : Faut-il juger un texte à son éloquence ou à la vérité qu’il porte ?

Si nous en venons à croire qu’une machine nous fait concurrence sur le terrain de la réflexion elle-même, alors le problème n’est peut-être pas la puissance de l’IA.

Le problème est que nous avons cessé d’habiter pleinement notre propre pensée, ce qui est certainement plus grave encore que de ne plus savoir lire.
Car si la lecture n’améliore pas notre capacité de raisonnement, alors à quoi bon ?

Montaigne préférait déjà une tête bien faite à une tête bien pleine. Son avertissement n’a sans doute jamais été aussi actuel. Car notre esprit ne risque plus seulement d’être encombré de savoirs, mais désormais d’être submergé par des textes générés plus vite que certains ne seront capables d’en comprendre le sens.

À mesure que l’IA s’impose dans notre quotidien, les prises de position se multiplient.
Chez certains, elle devient presque un réflexe compulsif.

Nous en voyons déjà un symptôme : au lieu de nous demander si un texte est vrai, juste ou éclairant, nous le parcourons en diagonale, à la recherche d’indices permettant de savoir qui — ou quoi — l’a écrit.
Pourtant, un raisonnement erroné ne devient pas plus juste parce qu’il est humain.
C’est peut-être cela, le vrai paradoxe : au moment même où l’on accuse l’IA de produire des textes répétitifs, une partie de l’écriture humaine sur l’IA devient elle-même répétitive.

Cet essai aurait pu s’intituler : « Le véritable problème n’est pas que l’IA écrive. C’est que les humains se répètent. »

J’aurais aussi pu l’appeler : « Quand les humains écrivent sur l’IA comme des machines. »

Ou, plus provocateur encore : IA ! IA ! IA !

Comme un braiement : à force de reprendre les mêmes questions sur l’IA sans vraiment les approfondir, le débat finit parfois par ressembler moins à une pensée qu’à un écho.

Mais entendons-nous bien.

Je ne veux pas dire qu’il ne faut plus écrire sur l’IA. Au contraire. Mais écrire sur un sujet déjà saturé suppose d’y apporter un angle, une distinction, une idée, quelque chose qui justifie une nouvelle prise de parole.

Qui nourrit qui ?

On pourrait alors ouvrir une autre question : qui a nourri la machine ?

Car l’IA n’est pas apparue dans le vide. Elle a été instruite par des milliards de textes, de conversations, de données, d’échanges humains, notamment à travers Internet et les technologies de communication.

En ce sens, c’est bien l’intelligence humaine qui a instruit l’intelligence artificielle.

Mais peut-être que ce qui inquiète l’humain n’est-il pas seulement que la machine l’imite, mais que l’élève finisse par dépasser le maître. Blade Runner avait déjà saisi cette inquiétude : la créature y devient un miroir troublant, révélant moins ce qu’elle est que ce que son concepteur ne comprend plus de lui-même.

Il faut toutefois ajouter une nuance essentielle : posséder des connaissances ne signifie pas encore avoir conscience de soi.

Connaître n’est pas vivre. Et vivre ne consiste pas seulement à accumuler des expériences, mais à se laisser transformer par elles et à répondre ensuite de ce que l’on devient.
Ce n’est peut-être pas ce qu’une intelligence sait qui la définit, mais ce qu’elle est capable d’assumer.

L’IA peut traiter, recomposer et restituer des formes issues de l’expérience humaine, mais elle ne possède pas encore cette expérience comme une conscience.

Nous pouvons bien sûr extrapoler. La science-fiction explore ces questions depuis longtemps.
Mais ce n’est peut-être pas le débat le plus urgent.

Il est troublant d’être perplexe devant ce que nous avons nous-mêmes conçu.
Cette perplexité devrait peut-être nous inviter à davantage d’humilité.

Efforçons-nous plutôt d’avoir des débats de fond, plus constructifs, capables de nous apprendre quelque chose sur l’IA, mais aussi sur nous-mêmes : sur certaines facettes de l’esprit humain, sur notre manière de penser, de transmettre, d’imiter, de créer et de croire.

Et peut-être cela nous rappellera-t-il que nous sommes nous-mêmes le résultat d’une intelligence plus vaste, qui se manifeste partout, de l’infiniment grand à l’infiniment petit.

Peut-être que l’intelligence artificielle ne nous oblige pas d’abord à nous demander ce qu’elle devient, mais ce que nous sommes en train de devenir nous-mêmes.

Et peut-être ce détour nous ramène-t-il à une interrogation plus ancienne encore : celle de l’intelligence à l’œuvre dans le monde réel.