jeudi 18 février 2016

La NSA aurait-elle tué des centaines d'innocents par erreur ?


L'agence de renseignement scrute l'ensemble des Pakistanais pour déceler et éliminer les éventuels terroristes. L'ensemble se base sur un algorithme aux calculs "foireux" : Skynet.

Les révélations de l'ancien consultant Edward Snowden ont permis de mettre en lumière de nombreux programmes secrets de l'agence de sécurité nationale américaine, la NSA. L'an dernier, le magazine en ligne The Intercept a ainsi publié des documents présentant Skynet, en référence à l'intelligence artificielle qui veut détruire l'espèce humaine dans les films "Terminator".

Ce programme collecte une montagne de données (nom, localisation, etc.) à partir de téléphones portables au Pakistan, afin d'identifier et de traquer des terroristes potentiels sur la base d'un algorithme, pour ensuite les éliminer avec des frappes de drones. Seul problème : l'algorithme de Skynet est "complètement foireux", affirme Patrick Ball, expert scientifique au Human Rights Data Analysis Group, dans une interview au site spécialisé Ars Technica, publiée mardi 16 février.

Pis, selon lui, des centaines d'innocents ont pu être désignées comme "terroristes" et tuées par des drones, sur la base de cet algorithme inefficace.

Ars Technica explique que l'algorithme de Skynet fonctionne exactement comme celui d'une entreprise du Big Data. Le programme collecte et stocke des millions de métadonnées sur les serveurs de la NSA et les mouline afin d'obtenir les informations qui l'intéresse. Sauf qu'au lieu d'identifier des consommateurs potentiels, l'algorithme désigne des futures cibles des drones américains.
Potentiellement 15.000 tués par erreur

Un drone américain, en janvier 2016 
Pour identifier un terroriste potentiel, le programme de la NSA se base sur les échanges et comportements de terroristes connus. Les communications (leur destinataire, leur durée, leur heure...), mais aussi les déplacements sont scrutés. Sur les 192 millions d'habitants du Pakistan (et 120 millions de téléphones portables), l'agence américaine a pu analyser les données de 55 millions d'utilisateurs de mobiles pakistanais.

Là où le bât blesse, c'est dans le fonctionnement pour déceler d'éventuels terroristes. En effet, toute l'analyse repose sur la comparaison aux profils de terroristes déjà connus. Sauf que la NSA ne dispose du profil que de 7 terroristes identifiés au Pakistan.

Un échantillon trop faible ? Pas de quoi freiner l'agence américaine. Ainsi, Skynet fonctionne sur une recherche du "septième", c'est-à-dire qu'il calcule tous les comportements possibles entre six profils (sur la base de 80 propriétés), afin d'identifier le septième larron (soit le terroriste en puissance).
Patrick Ball pointe que ce chiffre de 7 est beaucoup trop faible pour que l'algorithme soit un tant soit peu fiable. Selon l'analyste, Skynet génère un fort taux de faux positifs, qu'il chiffre à 0,008%. Pas grand-chose ? Sauf que rapporté à la population pakistanaise, cela représente pas moins de 15.000 personnes qui ont pu être désignées par erreur comme "terroristes", voire tuées par des drones américains.

"Nous tuons sur la base de métadonnées"

Manifestation contre les frappes de drones au Pakistan (Mohammad Sajjad/AP/SIPA)
C'est une mauvaise utilisation de la science", conclut l'analyste. Lorsque l'on condamne quelqu'un à mort, généralement cela se fait 'hors de tout doute raisonnable', ce qui n'est pas du tout le cas" avec Skynet.

Le Bureau of Investigative Journalism rapporte que, depuis 2004, entre 2.500 et 4.000 personnes tuées au Pakistan par des frappes de drones étaient identifiées par le gouvernement américain comme "extrémistes".

En 2014, les directeurs de la NSA et de l'agence de renseignement américaine CIA avaient ensemble admis "tuer des gens sur la base de métadonnées". Ars Technica conclut sur une interrogation :

Il est facile d'ignore ce qui se passe loin à l'étranger. Mais que se passera-t-il lorsque Skynet  se penchera sur nous, pour lutter contre la drogue, les anarchistes ou simplement ceux qui ne sont pas d'accord avec le gouvernement ?"

1 commentaire:

  1. Anonyme19.2.16

    Messieurs les journalistes du Nouvelles Observateurs vous ne semblez pas savoir que la CIA fabrique les filières terroristes de toute forme et depuis longtemps.

    En revanche Google = ami de la CIA je préconise de ne plus prendre ce moteur de recherche ( espionnage en temps réel ), il est temps de l'abandonner et de prendre une alternative pour ma part j'ai pris le moteur qui n'est pas aux mains des USA/Europe non ! le voici j'ai essayé il est super et top ( et c'est fini pour moi Google définitivement ).

    https://www.yandex.com/

    C'est un moteur de recherche anonyme ( Russe ) et N.1 là-bas, il est née 1 an avant Google, c'est dire son expérience dans le domaine ( rapide et trouve tout ), il y a aussi une option pour supprimer pour éviter les traçage de pub.
    J'ai essayé aujourd'hui ce moteur de recherche ( en a marre de l'espionnage US ) et j'ai testé alalumièredunouveaumonde comme premier exemple, il donne sans problème le site mais avec davantage de choix. Voilà, j'espère qu'il conviendra aux lecteurs.
    Amicalement.

    RépondreSupprimer