UNE MACHINE JUDICIAIRE DESTINÉE À LA CONDAMNATION DES INNOCENTS

« RECONNU COUPABLE » : QUAND L’INTELLIGENCE ARTIFICIELLE ABOLIT LA JUSTICE

Le nouveau film de Timur Bekmambetov imagine un tribunal où l’accusé est présumé coupable, surveillé jusque dans ses moindres gestes et condamné par une machine. Un spectacle efficace, parfois sommaire, mais dont la question centrale est redoutable : que reste-t-il de la justice lorsque l’être humain renonce à juger ?

Le titre français ne fait pas dans la dentelle : Reconnu coupable. Le titre original, Mercy, signifie pourtant « clémence » ou « miséricorde ». Toute l’ironie du film se trouve dans ce contraste. La société décrite prétend avoir inventé une justice parfaite, rapide, scientifique et débarrassée des faiblesses humaines. Elle a surtout construit une machine à condamner.

Réalisé par Timur Bekmambetov, le cinéaste de Wanted, le film met en scène Chris Pratt dans le rôle de Chris Raven, un policier accusé du meurtre de son épouse. Face à lui, Rebecca Ferguson incarne Maddox, une juge générée par une intelligence artificielle. Raven dispose de 90 minutes pour démontrer son innocence. À défaut, il sera exécuté immédiatement. L’action se situe dans un Los Angeles de 2029 où les suspects ne sont plus présumés innocents : ils sont présumés coupables et doivent eux-mêmes renverser le verdict statistique qui les écrase. (⁠Reuters)

Voilà donc le progrès : on conserve la chaise du condamné, mais on remplace le juge par un écran.

La présomption d’innocence retournée comme un gant

Le postulat de Reconnu coupable n’est pas seulement inquiétant. Il est juridiquement obscène.

La justice pénale repose, en principe, sur une idée élémentaire : il appartient à l’accusation de démontrer la culpabilité. Dans le monde de Mercy, cette architecture est renversée. La machine agrège les traces numériques, les vidéos, les déplacements, les messages, les données biologiques et les probabilités comportementales. Elle ne cherche pas véritablement la vérité. Elle calcule un taux de culpabilité.

Or une probabilité n’est pas une preuve.

Un individu peut avoir menti sans avoir tué. Il peut avoir bu, crié, menacé, effacé un message ou fui les policiers sans être l’auteur du crime. Mais l’algorithme, qui adore les corrélations parce qu’il est incapable de comprendre les êtres humains, transforme chaque faiblesse en indice et chaque indice en marche vers l’échafaud.

La justice n’est alors plus une recherche patiente et contradictoire. Elle devient un gigantesque formulaire automatisé dont la dernière case propose deux réponses : acquittement ou exécution.

Le juge qui ne doute jamais est le plus dangereux

Rebecca Ferguson prête à Maddox un visage calme, presque bienveillant. C’est précisément ce qui rend le personnage inquiétant. La machine ne crie pas. Elle ne menace pas. Elle explique. Elle affiche des pourcentages. Elle condamne avec la sérénité d’un logiciel qui vient d’achever une mise à jour.

La brutalité institutionnelle aime les interfaces propres.

Le juge humain peut être partial, lâche, vaniteux, paresseux ou corrompu. Mais il peut également hésiter, éprouver un malaise, percevoir une incohérence, revenir sur une conviction et comprendre qu’un dossier apparemment solide est parfois une construction parfaitement fausse.

L’intelligence artificielle, elle, ne connaît pas le doute moral. Elle ne connaît que l’incertitude mathématique.

Le film touche ici une vérité essentielle : le danger n’est pas nécessairement qu’une machine se trompe davantage qu’un magistrat. Le danger est qu’elle donne à l’erreur l’apparence irrésistible de la science.

Un juge peut dire : « Je crois que cet homme est coupable. »

La machine dira : « Sa culpabilité est établie à 92,7 %. »

Le premier énonce une conviction contestable. La seconde fabrique une vérité administrative.

Chris Pratt, prisonnier d’une chaise et de ses propres certitudes

Chris Pratt est presque continuellement immobilisé, sanglé devant son juge numérique, tandis que l’enquête progresse à travers des écrans, des communications, des images de surveillance et des archives informatiques. Bekmambetov reprend ainsi le procédé dit du « screenlife », qui consiste à raconter une grande partie de l’action par l’intermédiaire d’interfaces numériques. (⁠Reuters)

Le dispositif crée une tension immédiate. L’accusé ne peut pas enquêter physiquement. Il doit fouiller sa propre vie sous le regard de la machine. Ses souvenirs, son alcoolisme, ses disputes conjugales et ses fautes deviennent autant de pièces à conviction.

L’idée est forte : dans une société de surveillance totale, chacun transporte en permanence son futur dossier pénal dans sa poche.

Nos téléphones savent où nous étions, qui nous avons appelé, ce que nous avons recherché, quand nous avons menti, ce que nous avons acheté et parfois même ce que nous avons ressenti. Le film rappelle ainsi une évidence que nous préférons généralement ignorer : les données ne sont jamais innocentes. Elles attendent seulement que quelqu’un décide de les utiliser contre nous.

Une critique qui finit malheureusement par trembler

Le film aurait pu devenir une charge impitoyable contre la justice prédictive, la surveillance généralisée et l’abandon de la présomption d’innocence. Il choisit toutefois, par moments, les raccourcis du thriller spectaculaire.

Plusieurs critiques américaines lui ont reproché son manque de profondeur, ses invraisemblances et son incapacité à décider clairement s’il condamne la justice algorithmique ou s’il suggère qu’une meilleure intelligence artificielle pourrait finalement la sauver. Le Washington Post a notamment relevé ce mélange confus entre commentaire social, mélodrame et divertissement involontairement comique. D’autres critiques ont été beaucoup plus sévères, estimant que le film gaspille son excellente prémisse dans un récit conventionnel. (⁠The Washington Post)

C’est la principale faiblesse de Reconnu coupable.

Le problème n’est pas qu’une intelligence artificielle puisse recevoir de mauvaises informations. Le problème est qu’aucune machine ne devrait recevoir le pouvoir de tuer un être humain au terme d’une procédure accélérée.

Même alimenté par des données exactes, un tel système resterait monstrueux.

La justice ne consiste pas seulement à traiter des informations. Elle suppose une procédure, un temps de réflexion, une défense indépendante, la possibilité de contester les preuves, d’interroger les témoins, de dénoncer les biais et de faire appel. Elle suppose surtout que le doute profite à l’accusé et non à l’ordinateur.

Le fantasme d’une justice débarrassée des juges

Notre époque rêve de remplacer les institutions défaillantes par des technologies prétendument neutres.

Les magistrats sont trop lents ? Installons un algorithme.

Les décisions se contredisent ? Calculons une moyenne.

Les enquêtes coûtent trop cher ? Exploitons les données.

Les innocents sont parfois condamnés ? Améliorons le logiciel.

Ce raisonnement est séduisant parce qu’il évite soigneusement la véritable question : qui programme la machine, qui sélectionne ses données, qui définit ses critères, qui contrôle ses erreurs et qui répond de ses victimes ?

Derrière chaque algorithme se cachent des choix humains. Mais lorsque la décision devient scandaleuse, chacun peut se laver les mains : le policier a transmis les données, le technicien a appliqué le protocole, le procureur a validé le système et la machine a prononcé le verdict.

Le crime institutionnel parfait est celui dont personne ne se reconnaît l’auteur.

Une fiction à peine en avance sur son temps

Reconnu coupable ne décrit pas seulement un futur dystopique. Il pousse jusqu’à l’absurde des tendances déjà présentes : multiplication de la vidéosurveillance, reconnaissance faciale, collecte massive de données, évaluations automatisées des risques et fascination des autorités pour tout instrument promettant de prédire les comportements.

La machine judiciaire du film n’arrive donc pas de nulle part. Elle naît d’une demande politique très contemporaine : juger plus vite, punir davantage et ne plus s’encombrer du doute.

Le citoyen applaudit volontiers ce genre de réforme lorsqu’elle vise les autres.

Chris Raven lui-même a soutenu le système avant d’en devenir l’accusé. Ce retournement constitue l’idée la plus juste du film. Beaucoup tolèrent l’arbitraire tant qu’ils pensent appartenir au camp de ceux qui l’exercent. Ils ne découvrent les vertus de la procédure, des avocats et de la présomption d’innocence qu’au moment où la porte de la cellule se referme derrière eux.

Verdict

Reconnu coupable n’est peut-être pas le grand film philosophique que son sujet permettait d’espérer. Il demeure un thriller tendu, visuellement nerveux et porté par une prémisse remarquablement inquiétante.

Mais son véritable intérêt dépasse largement ses qualités cinématographiques.

Le film rappelle qu’une justice rapide n’est pas nécessairement une justice efficace, qu’une décision chiffrée n’est pas nécessairement rationnelle et qu’une machine prétendument neutre peut devenir l’instrument idéal de l’arbitraire.

La justice humaine est imparfaite parce que les humains sont imparfaits.

La solution ne consiste pas à supprimer l’humain.

Elle consiste à empêcher ses erreurs, ses mensonges et ses préjugés de se dissimuler derrière un écran, un uniforme, une robe ou un pourcentage.

Dans Reconnu coupable, l’accusé dispose de 90 minutes pour prouver qu’il mérite de vivre.

Dans une civilisation digne de ce nom, il devrait appartenir à l’État de démontrer qu’il a le droit de le condamner.