Des recherches soutenues par les armées étatsuniennes et israéliennes scandalisèrent une conférence près de Tel Aviv plus tôt cette année après qu’une présentation ait montré comment les découvertes de ces….
Des recherches soutenues par les armées étatsuniennes et israéliennes scandalisèrent une conférence près de Tel Aviv plus tôt cette année après qu’une présentation ait montré comment les découvertes de ces recherches vont aider les pilotes de drones à localiser plus facilement les personnes — dont les cibles — qui fuient les frappes et à mieux se diriger dans des zones rendues méconnaissables par de précédentes destructions.
L’étudiant en doctorat qui présenta cette recherche démontra comment des techniques innovantes de visualisation des données pouvaient montrer au pilote du drone, utilisant des lignes et des flèches d’épaisseur variable, quelle direction des personnes ou des véhicules allant à une vitesse soutenue ont le plus de chance d’aller, par exemple, à une intersection ou fuyant un bâtiment. La présentation énerva clairement au moins quelques personnes de l’assemblée, dont le modérateur, qui posèrent des questions hostiles.
“La présentation du type (et sa documentation vidéo) révéla surtout ce qui ne va pas avec la guerre par les drones,” expliqua Mushon Zer-Aviv, un web designer, militant et organisateur de la conférence, le colloque sur la visualisation des données, connu sous le nom de ISVIS.
Cet incident de l’ISVIS montre à quel point la base purement technologique des drones ainsi que leur inhumanité sont devenus une partie majeure du débat public international autour de leur usage. Autrefois perçu (et toujours présenté comme tel) comme une manière efficace et plus sûre de cibler les terroristes, l’omniprésence grandissante au niveau international des frappes létales de drones dans les zones à risques est de plus en plus perçue comme un moyen de créer des lieux de désolation et d’attiser le genre de structure terroriste qu’ils sont censés éradiquer.
Une partie de la controverse sur la présentation des recherches de Zak provient du fait qu’il laisse entrevoir l’environnement aseptisé dans lequel les pilotes opèrent, environnement rarement vu par le public. Dans ce monde-là, les pilotes posent des questions qui pourraient sembler absurdes hors contexte d’un assassinat aérien robotisé : que faire quand tu veux tuer quelqu’un mais qu’il s’est réfugié dans un immeuble et que tu n’es pas sûr de par où il va sortir ? Que faire quand un village a été tellement détruit que tu ne le reconnais plus et que tu te perds ?
Le conférencier sur les drones, Yuval Zak, déclara à The Intercept qu’il était étonné de la réaction du public et des questions hostiles à la suite de sa présentation. “La conversation est passée d’une discussion sur la visualisation et l’amélioration de la présentation d’informations à … une discussion sur les problèmes moraux que posent l’usage des drones,” écrit-il dans un email. “Mais le sujet de mes recherches est tout autre.” La technologie qu’il a présentée pourrait tout aussi bien être utilisée pour le maintien de l’ordre, le sauvetage, que pour des frappes de drones, explique-t-il — tout scénario critique impliquant une carte.
Cependant, Zer-Aviv explique qu’il fut un peu plus étonné à mesure que la présentation se déroulait. Il est le vice-président d’ISVIS, qui s’est présenté comme le premier événement de visualisation de données en Israël, réunissant “des perspectives de design, d’ingénierie et de psychologie sur la visualisation.” Comme de nombreuses conférences dans n’importe quel domaine, ISVIS a publié un appel à candidatures pour les présentations, espérant réunir dans un même lieu un échantillonnage du monde florissant de la visualisation, au Shenkar College, université d’ingénierie, de design et d’art, à Ramat Gan.
“Qu’est-ce que l’on gagne et qu’est-ce que l’on perd lors du passage de la donnée à la connaissance, en passant par les images?” se demande le manifeste d’ISVIS. Le programme semblait réfléchi et pointu, couvrant des sujets allant du récit et du journalisme au militantisme politique et à l’esthétique. Une session assurait expliquer comment “pour des conservateurs de musées, il est impératif d’apprendre, d’analyser, et de comprendre les schémas de comportements des visiteurs,” en partie grâce à “de récents développements dans le domaine des systèmes de positionnement en intérieur.”
Ce genre de travail est essentiel pour une grande partie de la science appliquée des données : comment rendre nos actions plus efficaces, plus performantes, moins laborieuses. Mais qu’en est-il quand il s’agit d’envoyer des missiles sur des gens depuis des robots volants ? Devrait-on ajouter davantage de couches d’abstraction informatique à la guerre par les drones, déjà tellement détachée et froide ? Devrait-on réfléchir à rendre plus efficace un meurtre ?
C’est ce genre de questions, urgentes et nécessaires, que Zak ignora. Sa présentation s’est focalisée sur les détails pratiques, supposant que la guerre par les drones devait être rendue plus efficace avant toute chose. Ses diapos indiquaient que son travail faisait partie d’un “partenariat de recherche entre l’Université Ben-Gurion,” l’armée israélienne, et le laboratoire de recherche, de développement et d’ingénierie de l’armée des Etats-Unis, ou, dans le jargon poétique du Pentagone, RDECOM AMRDEC.
Les organisateurs de l’ISVIS étaient “évidemment très curieux” quand Zak proposa sa conférence, nous dit Zer-Aviv, et décidèrent de l’intégrer à une session appelée “Pouvoir et changement,” avec une présentation sur la visualisation de données féministe. “Cette session était censée aborder l’usage des visualisations à la fois par ceux au pouvoir ainsi que par les citoyens qui voudraient lutter contre ou s’opposer à ce pouvoir,” expliqua Zer-Aviv.
Zak commença sa présentation par une déclaration surprenante qui a du, d’une certaine manière, paraitre pragmatique :
“On dit que dans les prochains cycles de combats, par exemple, l’armée de l’air israélienne détruira quelques 1000 bâtiments ou plus, et que quiconque entrera Gaza ne sera plus capable d’identifier ce qu’il pensait y voir.”
Et c’est là que se pose le problème auquel font face les forces aériennes de pointe israéliennes, comme l’équipe de Zak le perçoit : que faire quand tu as tellement dévasté une zone urbaine qu’elle n’est plus reconnaissable ? Comment vas-tu te déplacer, dans le but de tuer et de détruire, dans un endroit que tu as tant transformé en tuant et en détruisant ? De là se pose le problème principal de la guerre par les drones, reposant lourdement sur les robots détecteurs qui sont encore pilotés par des humains aux souvenirs et au traitement visuel facilement embrouillés par les gravats et les ruines. C’est à ce niveau que les recherches de Zak interviennent. Il explique dans sa remarque que le but de ses recherches était “au final, d’améliorer l’efficacité, lors de leurs missions, des pilotes de drones télécommandés de l’armée.”
Zak décrivit ensuite le cadre de travail du pilote de drone, qui dispose d’une vidéo de l’appareil en vol et d’une carte, en général comportant une sorte de calque superposé, montrant les forces en présence. “Ce dont il ne dispose pas,” explique Zak, “c’est la compilation des renseignements concernant les missions passées.”
“Autrement dit, le pilote décolle, il sait où l’ennemi est censé se trouver, où nos troupes sont censées se trouver. Il ne saura cependant pas comment l’ennemi s’est comporté pendant la mission de la veille, sauf s’il s’en souvient. Il ne saura pas non plus comment il s’est comporté pendant la mission de la semaine passée ou deux semaines auparavant. Et même s’il le savait, il détient une information mais il très difficile pour lui de s’en servir.”
La question qui nous préoccupe revient alors à celle avec laquelle un candidat au master ou un consultant de chez Deloitte bataillerait : comment notre organisation peut-elle utiliser une surabondance de données et augmenter la productivité des employés en influençant les logiciels du 21ème siècle ? La seule nuance ici étant que l’organisation en question à pour objectif de tuer, et qu’une augmentation de la productivité de l’employé signifie ici tuer plus facilement. Le record israélien de morts civiles dans le cadre de ses campagnes de drones télécommandés est déjà bien documenté.
Zak a développé quatre différentes techniques de visualisations étudiées pendant ses recherches, soulignant que la première de la série était “une visualisation que la plupart des pilotes [de drone] que nous avons consulté aiment beaucoup.” Imaginez que vous suiviez une personne ou une voiture remplie de gens. Vous êtes donc en train de pilotez un drone équipé d’une quantité de capteurs imageurs difficiles à prononcer, capables de fournir des détails visuels incroyables, de jour comme de nuit. Mais la seule chose que des caméras ou des lasers ne peuvent détecter est ce que la personne sur le terrain, à l’intersection de la rue, par exemple, va faire ensuite :
“Vous suivez un véhicule, un suspect, vous arrivez à un carrefour, et vous avez la possibilité d’aller tout droit, de tourner à droite ou à gauche. Autrement dit, pas vous, la cible que vous suivez. Quelle est donc la probabilité pour que la cible tourne dans chacune des directions du carrefour ? Quand on peut représenter cette probabilité, soit avec un nombre qu’on ajoute à la visualisation, soit en jouant avec l’épaisseur de la ligne, et on peut filtrer, peut-être le temps, le type de cible, la date, si c’est une cible mouvante, un véhicule, un piéton.”
Les pilotes de drone avec lesquels Zak a travaillé, dit-il, étaient particulièrement satisfaits de cette visualisation, parce qu’il y a des missions pendant lesquelles “ils suivent un véhicule et … des fois ils le perdent, parce qu’ils se retrouvent dans un nuage, puis ils ressortent du nuage et ils veulent savoir ‘Bon, on a perdu la cible, et il y avait un carrefour, donc où est-ce qu’on la cherche ?’”
Ce n’est pas clair d’où viennent les données nécessaires pour une prévision si précise, et ce n’est pas le seul exemple de ce genre que Zak a sorti. D’autres visualisations sont à l’étude par l’équipe de recherche israélo-américaine, l’une d’entre elles sert à suivre des individus qui pourraient s’enfuir à pieds, dans laquelle les pilotes de drone recevraient un affichage visuel en couleurs de “la probabilité qu’ils entrent ou sortent de chaque porte, et cela pour chaque bâtiment,” représentée par des flèches de différentes épaisseurs, ainsi qu’un système pour localiser une “cible permanente”, comme Ismail Haniyeh, dirigeant du Hamas et ancien chef de l’Autorité Palestinienne. Pour des personnes comme Haniyeh, Zak dit que “nous pouvons construire une grille de ses déplacements, des lieux où il s’est rendu et on voit les probabilités grâce à l’épaisseur de lignes ou de points.” L’efficacité de la “grille de surveillance pour une cible individuelle est très bien notée” par les pilotes de drone, relève Zak avec fierté. C’est un peu comme les suggestions de Netflix, sauf que là ça concerne des personnes sur lesquelles on va lancer des missiles.
Zak a rapidement perdu le public. “Je pense que personne dans la salle ne s’attendait à ça,” explique Zer-Aviv à The Intercept. Comme on pouvait s’y attendre, selon une retranscription de la session de questions/réponses suite à la présentation de Zak, la première question était en fait une dénonciation : “Je dis juste que quand on fait souffrir tant de gens, qui ne sont pas tous Ismail Haniyeh, pour ces objectifs-là, on peut avoir l’air un peu moins content de soi,” a déclaré un membre du public. “Tout n’est pas honorable en soi.”
Le modérateur de la séquence essaya de faire parler Zak sur ce sujet :
“On entend beaucoup de discussions en ce moment sur la prévision policière. Sur le fait d’utiliser des algorithmes, aussi, pour prendre certaines décisions politiques. Qu’il s’agisse de la politique policière, dans notre cas, c’est de la politique d’assassinat ciblé. Prendre des décisions de vie ou de mort basées sur des données. Quel est le rôle de votre traitement de données et des visualisations dans ces questions éthiques complexes ?”
Dans sa réponse, Zak contourna les questions éthiques, déclarant que, “Globalement, notre travail est de rendre le travail d’un pilote de drone plus efficace.” Il ajouta que son travail de visualisation ne permettrait pas de prendre deux cibles pour déterminer “celle-ci doit être détruite et pas celle-ci.” Ce rôle, dit-il, revient “aux gens qui … regardent les écrans vidéo et évaluent la situation en fonction.”
Dans son mail à The Intercept, Zak déclara que les intérêts d’augmenter la précision des pilotes de drone allaient au-delà de l’efficacité à tuer :
“Si un pilote a de meilleures informations, il y aura moins de chances que des erreurs ou des accidents se produisent.
La plupart des contretemps et accidents de drones sont liés à des erreurs humaines, c’est pour cela que la technologie prévoit un développement holistique des drones, ce qui comprend les facteurs humains ainsi que la technique. Malheureusement, la plupart des drones sont développés pour accomplir certains objectifs techniques, sans prendre en compte les limites cognitives humaines dans l’exploitation du système, ou bien le processus de prise de décision. C’est là que nos recherches peuvent contribuer à améliorer les performances des pilotes.
Par exemple, prenez un cas étatsunien dans lequel les pilotes de drone échouèrent à observer et à signaler la présence d’enfants dans une foule suspecte en Afghanistan, les conséquences ont été que le l’hélicoptère tua 23 civils. Ce sont précisément ce genre d’incidents que nous cherchons à éviter en améliorant les capacités des pilotes à se concentrer.”
Si l’on peut rendre ces écrans vidéo aussi puissants et bourrés de renseignements que possible, pourquoi ne pas le faire ? N’est-ce pas judicieux ? Meilleur ? Ces réponses totalement éthico-sceptiques — rappelant tellement le renvoi de responsabilité utilisé par la Silicon Valley— reviennent à dire que ce ne sont pas les armes à feu qui tuent les gens. Selon ce raisonnement, la responsabilité revient à ceux qui poussent les boutons, plutôt qu’aux personnes qui créent et fabriquent ces boutons. Présenter les pilotes de drone comme de simples consommateurs passifs de contenu, qui ont besoin du meilleur contenu possible, afin de prendre les meilleures décisions possibles, nous permet d’éviter d’inconfortables questions et débats sur si, pour commencer, ce système devrait être utilisé couramment. Cela permet aussi de se débarrasser des critiques en promettant d’obtenir de meilleures données à deux pas d’ici. Peut-être que le problème avec ce qu’on appelle la chaîne de la mort, utilisée pour autoriser les meurtres robotisés, n’est pas que c’est une forme d’assassinat à distance, abstrait, aseptisé et basé sur de l’information, mais plutôt qu’on ne jette pas assez de bonnes données dans les écluses de la guerre ?