En réponse à l’appel d’un Mécanisme d’Experts de l’ONU sur le Droit au Développement pour obtenir de l’information sur l’intelligence artificielle, les droits culturels et le droit au développement, Al-Haq a souligné la façon dont le déploiement par Israël à Gaza de systèmes de soutien des décisions à l’aide de l’IA (AI-DSS), et son régime de surveillance numérique dans toute la Cisjordanie occupée, dont Jérusalem Est, constitue un refus structurel discriminatoire du droit du peuple palestinien au développement et, parallèlement, de son droit inaliénable à l’autodétermination.
Les avancées rapides en IA, informatique dématérialisée et technologie de surveillance – développées sans réglementation significative – ont ouvert une nouvelle ère dans l’occupation illégale et le régime d’apartheid israéliens, dans lesquels sa présence illégale, son annexion, sa discrimination raciale et sa destruction de la population palestinienne peuvent être automatisées et effectuées à distance. A Gaza, les systèmes de l’IA tels que ‘Lavande’, ‘L’Évangile’ (‘Habsora’) et ‘Où Est Papa ?’ servent à générer des « listes de cibles » fondées sur des scores de risques numériques assignés aux Palestiniens et à identifier rapidement les maisons, les quartiers et les infrastructures civiles à cibler.
A travers la Cisjordanie occupée, dont Jérusalem Est, la soumission informe sur le « panoptique numérique » assisté par l’IA, construit autour d’outils tels que ‘Loup Bleu’, ‘Loup Rouge’, la base de données biométriques ‘Meute de Loups’, et le réseau de surveillance amélioré ‘Mabat 2000’. Ces systèmes capturent, stockent et traitent algorithmiquement les ‘visages, mouvements et liens sociaux des Palestiniens afin de déterminer qui peut passer aux checkpoints et qui subit un interrogatoire ou est détenu. Al Haq a souligné que ce dense réseau de surveillance n’est pas un outil de sécurité neutre mais une structure de gouvernement du régime génocidaire, d’apartheid colonial de peuplement israélien. En faisant dépendre la vie quotidienne d’algorithmes discriminatoires opaques, on engendre une peur et un désespoir généralisés, on entraîne de l’autocensure à la fois hors ligne et en ligne, et on fragmente les réseaux sociaux requis pour une « participation active, libre et significative » à la vie économique, sociale, culturelle et politique – tous éléments essentiels du droit au développement.
La soumission souligne en outre comment les pratiques pilotées par l’IA déshumanisent les Palestiniens et attaquent la fondation même de la dignité humaine sur laquelle est construit le droit au développement. A Gaza, chaque personne est réduite à un point de données à l’intérieur de systèmes tels que Lavande qui évaluent les individus en se fondant sur des critères généraux, définis par l’opérateur – tels que l’âge, le genre, la résidence et les schémas de communication – et traite des familles entières de sacrifiables quand une maison est définie en tant que cible. En Cisjordanie, la collecte de données transformée en jeux par Loup Bleu récompense les soldats qui ont capturé autant de visages palestiniens que possible, réduisant les gens à des codes couleur de feux de signalisation sur un écran, tout en laissant les colons illégaux hors du champ de vision algorithmique.
Sans surprise, les entreprises font partie intégrante de l’écosystème israélien de guerre et de surveillance en fournissant l’infrastructure qui alimente les systèmes. La soumission détaille la façon dont les fournisseurs du cloud et les sociétés d’IA, telles que Microsoft, Google, Palantir et OpenAI fournissent les capacités de stockage et d’apprentissage machine qui permettent à l’armée et aux services de renseignement israéliens d’ingérer d’énormes quantités de communications et autres données interceptées sur les Palestiniens qui vivent dans les territoires palestiniens occupés. Cela constitue un autre rappel frappant du vide juridique dans lequel prend place la militarisation de l’IA. L’inefficacité flagrante des principes juridiques mous, tels que les Principes Directeurs de l’ONU sur les Entreprises et les Droits de l’Homme, qui expriment à la fois les devoirs des États et les responsabilités des entreprises dans l’identification, la prévention et l’atténuation des atteintes aux droits de l’Homme est rendue évidente par le mépris témoigné par les sociétés de technologie, même quand elles ont à faire à un État voyou, génocidaire.
Finalement, la soumission situe ces pratiques dans le plus large cadre juridique international. Elle rappelle l’Avis Consultatif de la Cour Internationale de Justice du 19 juillet 2024 sur les Conséquences Juridiques de la Politique et des Pratiques d’Israël dans le Territoire Palestinien Occupé, dont Jérusalem Est, qui a trouvé que la politique et les pratiques d’Israël entravent le droit du peuple palestinien à déterminer librement son statut politique et à poursuivre son développement économique, social et culturel. Le ciblage et la surveillance de masse rendues possibles par l’IA intensifient toutes deux la dévastation matérielle des infrastructures civiles de Gaza et la destruction de la population palestinienne en général, ainsi que l’élimination des conditions procédurales – y compris la spontanéité et la capacité d’« agir de concert », la liberté de réunion et d’association, et même la liberté physique – qui sont indispensables à l’exercice du droit au développement et, en conséquence, à l’autodétermination.
En se fondant sur ces découvertes, Al-Haq a appelé le Mécanisme d’Experts sur le Droit au Développement à :
* Appeler Israël à cesser immédiatement tout ciblage et surveillance de masse permis par l’IA dans les TPO, dont un moratorium sur les systèmes tels que Lavande, L’Évangile, Où est Papa ?, Mabat 2000, Loup Bleu, Loup Rouge et autres outils et bases de données biométriques de reconnaissance faciale.
* Exiger d’Israël de démanteler son infrastructure numérique discriminatoire, y compris grâce à un audit indépendant et la destruction vérifiable de la base de données Meute de Loups, et de mettre fin aux arrestations, aux restrictions de circulation et autres sanctions basées sur le profilage piloté par l’IA ou l’activité en ligne/sur les réseaux sociaux.
* Obliger Israël à rétablir et protéger les conditions matérielles et procédurales nécessaires au développement des Palestiniens et à fournir toutes réparations, y compris la restitution, la compensation, la réhabilitation, la satisfaction et les garanties de non-répétition, pour les torts causés par les opérations aidées par l’IA.
* Affirmer que les pratiques militaires et de surveillance permises par l’IA constituent une privation du droit des Palestiniens au développement et une obstruction continue de leur droit à l’autodétermination, conformément à l’avis consultatif de la CIJ sur les Conséquences Juridiques qui découlent de la Politique et des Pratiques d’Israël dans le Territoire Palestinien Occupé, dont Jérusalem Est.
* Adopter et installer un moratoire mondial immédiat sur le développement, le transfert, la fourniture et l’utilisation des systèmes de ciblage et de surveillance de masse assistés par l’IA dans des situations de génocide, d’occupation, d’apartheid ou de violations graves et systématiques des droits de l’Homme, y compris dans les TPO.
* Exiger de tous les États, conformément à leurs obligations erga omnes et à l’ Avis Consultatif de la CIJ, de s’abstenir de reconnaître, soutenir ou aider l’occupation illégale israélienne, y compris en interdisant l’exportation, l’octroi de licences, la fourniture ou la facilitation des technologies de l’IA, du cloud et de la surveillance qui lui permettent de cibler les civils palestiniens et leurs infrastructures.
* Exiger un interdit sur tous les partenariats financiers, commerciaux et d’informatique dématérialisée en lien avec l’armée et les secteurs de surveillance israéliens, et renforcer la conformité avec les Principes Directeurs de l’ONU relatifs aux Entreprises et aux Droits de l’Homme.
* Poursuivre la responsabilisation des acteurs économiques et financiers par le biais de poursuites pénales, de sanctions, de désinvestissement et de contentieux stratégique lorsqu’ils développent, financent, fournissent ou soutiennent des systèmes d’IA utilisés pour faciliter le génocide, l’apartheid ou autres graves violations des droits de l’Homme et du droit humanitaire international.
* Fournir un soutien durable aux initiatives communautaires, à la société civile palestinienne et aux organisations humanitaires impartiales qui travaillent à la reconstruction du tissu social, traiter les dommages psychologiques dus au panoptique numérique d’Israël et à sa déshumanisation et permettre une participation significative à la vie politique, économique, sociale et culturelle.
* Intégrer le droit au développement et le droit connexe à l’autodétermination dans toutes les structures émergentes internationales, régionales et nationales des cadres de gouvernance de l’IA et des cadres contraignants de l’IA militaire.
Vous pouvez trouver le texte complet de la soumission d’Al-Haq ici.