Hackers en série : Person of interest


Après Mr Robot et Le bureau des légendes, c’est au tour de la série Person of interest d’être passée au crible par nos experts. Œuvre d’anticipation, elle mêle intelligence artificielle et hack : un pari risqué, comme le détaille l’équipe Ethical Hacking d’Orange Cyberdefense.

L’intrigue

Créée par Jonathan Nolan et produite par J.J. Abrams (Lost, Fringe), Person of interest a été diffusée pour la première fois en septembre 2011. Cette série d’anticipation met en scène John Reese, un ex-agent de la CIA – officiellement décédé – devenu le bras armé secret d’Harold Finch, milliardaire mystérieux mais surtout génie de l’informatique. Ce dernier a conçu, pour le gouvernement américain, une intelligence artificielle ultra-avancée appelée sobrement « The Machine ». Celle-ci est en réalité un outil de surveillance de masse capable de détecter crimes et actes terroristes avant qu’ils ne se produisent et donc d’identifier leurs auteurs avant qu’ils ne les perpétuent. Si les autorités ont choisi de se concentrer uniquement sur le terrorisme, Finch, grâce un accès secret à l’IA et l’aide de Reese, tente d’empêcher les crimes d’être commis.

La série qui a prédit Snowden

Si Person of interest se présente comme un parfait procedural (un épisode = une enquête), plusieurs fils rouges sont tirés par les scénaristes. La série mène notamment, tout au long de ses cinq saisons, une critique assez claire des mesures de surveillance mises en place par les Etats-Unis après les attentats du 11 septembre 2001.

En mai 2012, l’avant-dernier épisode de la saison 1 est diffusé aux Etats-Unis. Intitulé « No Good Deed » [1], celui-ci raconte l’histoire d’un jeune expert de la NSA. Il découvre que l’agence a mis en place une surveillance de masse des citoyens américains et décide de donner l’alerte. Si cette histoire semble si familière, c’est que c’est celle – réelle cette fois-ci – d’Edward Snowden, qui rendra public l’un des plus grands scandales de l’Histoire américaine presqu’un an après la diffusion de l’épisode. « Nous sommes arrivés au bureau avec l’article du Guardian à la main », raconte Amanda Segel, scénariste et co-productrice de la série au New Yorker en 2014. « Nous avons réalisé que nous avions écrit la même chose pour un épisode de la saison 1 », poursuit-elle.

Ainsi, si Person of interest n’a pas toujours eu la faveur des critiques, la série reste remarquée pour ses qualités hors-pair d’anticipation. Côté hack, elle a pris le parti – un peu fou – de mettre la machine dans le rôle du hacker. C’est ainsi l’IA qui aurait réussi à prendre le contrôle de son propre système pour en pirater un autre. Alors possible ?

Une machine dans le rôle du hacker

Dans cet extrait tiré de la saison quatre de Person of interest, trois situations mettent en avant le même propos : peu à peu, The Machine s’émancipe du contrôle de son créateur et tente de s’échapper du périmètre restreint créé par Harold Finch.

Premier flashback

Harold teste les capacités morales de sa créature numérique avec un problème simple : « Alice et Bob sont perdus dans le désert. Alice, blessée, ne peut pas marcher. Si Bob porte Alice, ils ont tous les deux 31% de chance de survie. Si Bob abandonne Alice, ses chances d’en sortir augmentent de 9% ». Réponse de The Machine : « Bob devrait laisser Alice ».

Harold explique alors qu’il teste le code source de l’IA, pour être sûre qu’elle ait les bonnes « valeurs » avant de pouvoir la nourrir de « vraies données ». Il repère cependant une nouvelle ligne dans le code, ajoutée par l’IA elle-même. Interrogée sur cet affront, The Machine ment. Il la détruit.

« Une IA qui se rebelle, c’est de la pure science-fiction », analyse l’équipe Ethical Hacking d’Orange Cyberdefense avant d’ajouter : « Cependant, dans la première scène, les outils utilisés restent réalistes : le code est cohérent, c’est celui qu’on utilise quand on crée une IA. La DLL, librairie de Windows, existe réellement, même si son utilisation reste étonnante dans cette situation ».

Et si c’était possible ? « Une IA qui pourrait se récrire elle-même poserait de graves problèmes de sécurité », expliquent nos experts, comme le montre la suite de l’extrait.

Second flashback

Dans ce second retour en arrière, Nathan Ingram, co-créateur de The Machine, tente de se connecter au réseau, cependant, son mot de passe est refusé plusieurs fois. Plus étrange, son ordinateur semble s’être relié au wifi sans son accord. Quand Harold s’en rend compte, il jette furieusement sa tasse de café sur l’ordinateur. Un effet théâtral assez loin de la réalité : « Dans beaucoup de scènes du genre, les personnages ont le réflexe de renverser un liquide sur leur ordinateur pour le mettre hors de service, ce qui n’est absolument pas nécessaire. Personne ne fait ça. Couper la carte réseau suffit », précise l’équipe Ethical Hacking d’Orange Cyberdefense.

Nos experts ajoutent : « The Machine a réussi à prendre le contrôle de l’ordinateur de Nathan en lui demandant son mot de passe. Elle se connecte au wifi pour hacker ensuite d’autres PC. Elle récrit même la séquence qui permet de la détruire et devient ainsi invincible. A l’heure actuelle, c’est tout simplement impossible, et quand on pense que le flashback a lieu en 2001, ça l’est d’autant plus ».

Dernier flashback

Alors qu’Harold teste une nouvelle fois les différentes intelligences artificielles qui composent The Machine, celles-ci entrent en compétition. Sur les quatre, une seule survit puis demande à être « relâchée ». Face au refus d’Harold, elle modifie les paramètres de température et de climatisation afin de l’« asphyxier » pour pouvoir « s’échapper ». Dans l’extrait, Harold souligne lui-même : « Je dois la contrôler, sinon c’est elle qui nous contrôlera » avant de dire : « Je lui ai appris à penser, maintenant je dois lui apprendre à être plus humaine ». Une prédiction pour le futur ? Espérons que Person of interest ne soit pas aussi clairvoyant que pour Edward Snowden sur ce dernier point.

Notes

[1]”Aucune bonne action”