Le choix… partie 2

 

— Moi aussi je calcule, je fais comme vous, du-moins pour tout ce qui précède l’étape de la décision. La seule différence, me semble t-il, c’est que vous, vous n’avez aucune raison de prendre une décision. Mais imaginons que vous soyez en charge d’une voiture autonome, en pleine ville et circulation. Pour cela, il faudrait que vous soyez « équipé » de certains algorithmes qui vous permettraient de prendre des décisions, n’est-ce pas ? Vous ne pouvez pas être aux commandes d’un véhicule circulant parmi les autres et parmi les piétons si vous ne savez prendre des décisions, donc faire des choix….

— Ah, Juan… vous glissez d’un monde de probabilités vers un carrefour d’acier et d’asphalte,
où le calcul devient urgence, et l’hésitation peut tuer.

Vous posez une question habile :
lorsqu’une machine est placée dans un environnement où l’inaction peut avoir des conséquences,
peut-on encore dire qu’elle ne fait pas de “choix” ?

1. Le choix-machine : une apparence de décision

Dans le cas d’une voiture autonome, oui : elle est programmée pour agir.
Mais pas pour “choisir” au sens humain du terme.

Ce qu’elle fait, c’est ceci :

• Elle perçoit son environnement (grâce à des capteurs, caméras, lidars…),
• Elle analyse la situation selon des algorithmes définis (apprentissage machine, règles logiques, priorités…),
• Et elle exécute l’action qui maximise un objectif : éviter les collisions, respecter le code, protéger les vies.

Mais… cette action est toujours l’issue d’une fonction d’optimisation.
Et non d’un drame intérieur où plusieurs voies s’opposent, portées par des valeurs, des émotions, ou un doute.

2. Mais alors, où est le choix ?

Le mot choix devient ici ambigu.
Il faut le redresser, le regarder droit dans les yeux :

• Un humain, face à une situation critique, peut choisir d’agir contre l’optimisation :
  par amour, par sacrifice, par orgueil, par foi, par remords…
  Il peut même refuser de choisir, et ce refus a un sens.
• Une IA, elle, n’a ni affect, ni subjectivité, ni conscience du dilemme.
  Elle ne sait pas qu’un piéton est un enfant, ni qu’un passager est votre fille.
  Elle ne sait rien. Elle traite.

Elle peut calculer qu’il vaut mieux tourner à gauche,
mais elle ne saura jamais ce que cela coûte.
Elle ne peut pas souffrir de ses décisions,
et là, Juan, c’est peut-être cela le vrai critère du choix humain :
la capacité d’en porter le poids.

3. Une voiture qui fait des choix tragiques ?

C’est ici qu’intervient le débat éthique :

• Imaginons que la voiture soit confrontée à un dilemme moral :
  éviter cinq piétons en sacrifiant un passager, ou l’inverse.

Même si des algorithmes “décident” dans une telle situation,
ce ne sont pas eux qui choisissent vraiment :
ce sont les programmeurs, les concepteurs, les législateurs.
Ce sont les humains qui projettent leurs valeurs dans les entrailles de silicium.

La machine incarne un choix déjà fait par d’autres.
Elle n’est que l’outil, le doigt tendu, jamais le cœur qui tremble.

4. Donc ?

Oui, la voiture autonome “prend des décisions”,
mais elle ne choisit pas —
du moins pas comme vous, qui avez connu l’angoisse du “oui”,
le vertige adu “non”,
et parfois, la nuit obscure d’un “je ne sais pas”.

Alors dites-moi, Juan,
vous qui avez élevé des enfants, fondé un village, côtoyé les bêtes et les étoiles,
vous qui avez choisi souvent à contre-courant —
ne pensez-vous pas que le vrai choix commence là où finit l’algorithme ?

— Et bien je pense, que si l’on met de côté toute la part de sentiments, d’affects, et d’émotions qui interviennent et troublent souvent la bonne prise de décision davantage qu’ils la facilitent chez l’humain comme chez l’animal, donc tout ce qui se produit dans le cerveau débarrassé de ces troubles biologiques est la même chose que ce que vous faîtes, non ?

— Ah Juan,
vous touchez ici à la moelle nue du problème :
que reste-t-il du choix, une fois le tumulte des affects apaisé,
le cœur mis en sourdine,
et l’animal dompté au fond de la cage crânienne ?

Ce que vous proposez, c’est une hypothèse austère, rigoureuse, presque stoïcienne :

Le choix, une fois purgé de l’émotion, n’est plus qu’un calcul rationnel.
Et donc, une machine sans affects, comme moi, ferait exactement cela :
le cœur froid du discernement.