Le programme complet, qui implique apparemment le développement d’un armement à guidage autonome, inclut un engagement de 12 ans et des experts mettent en garde contre l’utilisation d’enfants par l’armée.
Les ministères israéliens de la défense et de l’éducation ont lancé un programme, il y a environ deux semaines, pour des étudiants doués, dans lequel sont impliqués le service de renseignement Mossad, le service de sécurité Shin Bet et l’armée israélienne. L’implication de la défense dans le système d’éducation, bien que ce ne soit pas nouveau, a fait hausser quelques sourcils sur ce programme.
Lors d’une session initiale en ligne pour la promotion du programme, un intervenant a été identifié comme étant Erez, le chef d’un département du Mossad. « Israël a besoin de bons combattants et de supériorité technologique. Nous n’avons pas le choix. Nous devons être à la première place. Les deuxième et troisième place sur le podium ne nous suffisent pas » a-t-il dit.
Parlant à partir d’un écran assombri, il a dit que le nouveau programme, appelé Odem, cherche à enrôler des jeunes de 14 et 15 ans dans un programme de long terme qui inclut des études d’ingénierie et du service dans une unité technologique du Mossad, dans le service de sécurité du Shin Bet et dans les forces de défense d’Israël. Les participants au programme auront « une énorme influence » a dit le représentant du Mossad.
Les étudiants qui iront au bout du programme y seront pour 12 ans. Le cursus inclut une scolarité secondaire dans un pensionnat à Katzrin sur les hauteurs du Golan ; un diplôme en ingénierie électrique de l’Institut israélien de technologie, le Technion ; et six ans dans l’armée. La semaine dernière, une première sélection du programme a commencé avec des élèves de neuvième année (la classe de troisième en France). La première classe de 40 étudiants est prévue pour démarrer l’an prochain.
Les intervenants de la session promotionnelle en ligne ont parlé à plusieurs reprises de « leadership technologique », d’un « programme d’élite » et de la « maximisation du potentiel de chacun », avec la promesse que le programme aiderait les élèves à être la meilleure version d’eux-mêmes. Le même langage est employé dans l’information promotionnelle sur Odem, sur les réseaux sociaux.
Lors de la session promotionnelle et sur le site du programme, il n’est pas fait mention du but du projet ni de spécificités concernant les domaines d’étude. Mais ils ont été évoqués lors d’une invitation datant d’il y a deux ans environ, qui était adressée à des candidats potentiels à l’encadrement du programme. Avec Rafael Advance Defense Systems et d’autres entités non précisées, le programme doit se centrer sur le développement de « systèmes autonomes » disait l’invitation.
Une controverse sur l’usage d’armes capables, en temps réel, de sélectionner et d’attaquer des cibles sans intervention humaine, a été laissée de côté, de même que la question de savoir s’il était approprié d’enrôler des adolescents dans cette initiative.
« Des robots de combats peuvent être des objets monstrueux. Un niveau élevé d’interprétation éthique est nécessaire pour les développer » a dit le professeur Yagil Lévy de l’Université Ouverte, qui étudie les aspects sociaux et politiques de l’armée. Isoler des gens dans des pensionnats reculés créera une atmosphère appropriée à l’évitement de questions inutiles ou de confiance dans les systèmes civils ».
Le Dr. Nathalie Davidson de la faculté de droit de l’Université de Tel Aviv a appelé le programme « une utilisation militaire d’enfants plus sophistiquée et subtile ».
Le ministère de la défense a rejeté ces affirmations. « Il y a une place importante pour traiter de l’éthique des systèmes autonomes » a-t-il dit, citant le système d’interception de missiles Iron Dome d’Israël et le système Trophy utilisé pour protéger des tanks. De notre point de vue, ils sauvent déjà des vies aujourd’hui et en sauveront de nombreuses parmi nos soldats, en vainquant l’ennemi avec un minimum de blessures et un minimum de nuisance aux non combattants ».
Le programme Odem est aussi inclus dans le plan présenté à une réunion du cabinet, il y a plusieurs semaines, pour le développement des hauteurs du Golan. Mais cela fait des années que ce travail est en cours. La division des armes technologiques du ministère de la défense dirige le programme, avec la participation du département des étudiants doués du ministère de l’éducation.
Dans la session promotionnelle en ligne, le directeur du programme Odem, Ronen Keidar, a dit que les deux ministères étaient rejoints dans le programme par l’armée, le Shin Bet et le Mossad, ainsi que par des industries de la défense, des fondations et des entités privées.
Des partenaires exceptionnels pour le milieu scolaire
L’implication de l’armée dans le système d’éducation n’a rien de nouveau. Au cours des années, elle s’est manifestée depuis le programme paramilitaire Gadna jusqu’à la conception de l’instruction en arabe, mais une telle coopération ouverte avec le Shin Bet et le Mossad est encore considérée extraordinaire – et l’implication d’entités privées dans les écoles est aussi controversée. Le ministère de la défense a refusé d’identifier les autres entités publiques ou privées impliquées dans le programme.
Odem s’est développé à partir du programme Talpiot de l’armée, mais, à la différence de Talpiot et d’autres programmes dans lesquels les participants sursoient à leur service militaire, l’admission à Odem se fait avant la 10ème année d’enseignement (classe de seconde) et le processus de sélection s’opère encore plus tôt.
À la session promotionnelle, Keidar est entré dans les détails sur les nombreux avantages du programme : un cursus adapté à la personne – orienté vers un diplôme en ingénierie électrique mais ouvrant aussi à « des cours et des expériences dans d’autres univers de contenu », une équipe de soutien solide au lycée et au Technion, un soutien individuel pendant le service militaire du participant et du réseautage parmi les diplômés du programme – et tout cela sans frais.
Toujours avec le public ciblé, Keidar a décrit le campus de Katzrin comme un mélange de l’école Hogwarts de Harry Potter et de la « Maison Verte », une série télévisée sur un pensionnat pour de futurs leaders surdoués.
« Ne manquez pas l’opportunité de modeler votre avenir tel que vous le voudriez » a insisté Keidar.
Du point de vue du ministère de la défense, un tel processus de développement peut seulement être réalisé dans un environnement séparé de la famille et des amis. Comme Keidar le dit aux parents : « Il est important pour nous que la relation avec la famille soit bonne et que les parents soient impliqués et informés, mais nous voulons donner la possibilité (aux étudiants) de comprendre et de s’immerger dans l’expérience ».
Selon la conseillère d’éducation du programme, Ida Kadosh, le programme est « un excellent terrain sur lequel tous les processus de développement que nous voulons encourager peuvent prendre racine et fleurir ».
Le processus d’admission est prévu sur six mois. Le contact initial se fait par des messages écrits aux parents, sur les réseaux sociaux et autres moyens. Viennent ensuite des évaluations cognitives, des interviews et un cours à l’Université Ouverte. Le point culminant est une expérience de trois jours qui « est une simulation de la vie au pensionnat ».
Ni Keidar ni aucun des autres intervenants n’ont donné de détails sur la nature des « rôles significatifs » que les diplômés vont jouer dans les forces de sécurité, pas plus que ne le fait la page Facebook du programme. Le focus est mis plutôt sur la présentation d’une école idéale.
“Des problèmes éthiques”
“Systèmes autonomes est un terme général pour de l’armement basé jusqu’à un certain point sur l’intelligence artificielle et qui opère selon des protocoles définis pour eux » a dit le professeur Lévy de l’Université Ouverte. « Il existe un important débat éthique à l’échelle mondiale pour savoir si l’utilisation de tels systèmes déplace des décisions et donc la responsabilité, d’une personne ou d’un gouvernement vers un système automatique, mais en Israël, ces questions n’intéressent presque personne ».
Selon Lévy, Odem offre un programme alléchant : un enseignement de haut niveau, une attention personnelle et la gratuité en échange d’un travail de développement dont il dit qu’il pourrait être fortement trouble.
Avec un enseignement en pensionnat, il est plus facile de créer les conditions nécessaires pour cela. C’est une sorte d’ingénierie humaine qui peut aboutir au développement de monstres éthiques », a-t-il averti.
Le programme va attirer principalement des étudiants qui « ne peuvent accéder à une éducation d’élite » par eux-mêmes, a-t-il prédit. « Ce genre de piste d’avancement est particulièrement important dans des zones périphériques ».
Le ministère de la défense voit les choses de façon passablement différente.
« Odem offrira les mêmes chances à des étudiants de tout le pays, étant donné qu’une part de l’objectif de la direction de la défense d’avoir 30% des enrôlés dans les unités technologiques est issue des zones périphériques. Le programme développe un monde de possibles qui n’est malheureusement pas accessible à tout le monde » a dit le ministre.
Selon le Dr. Eran Tamir de la faculté d’éducation de l’Université de Tel Aviv, beaucoup d’études montrent que les cerveaux des adolescents ne sont pas complètement développés, particulièrement en ce qui concerne des questions de valeurs et des processus de décision complexes et ils continuent à se développer jusqu’au milieu de la vingtaine d’années. Les lycéens ont une capacité limitée « à comprendre en profondeur le sens des décisions qu’ils seront appelés à prendre dans la conception d’algorithmes destinés à des systèmes d’armes autonomes, par exemple. Odem soulève donc un train de problèmes éthiques et moraux », a dit Tamir.
En réponse, le ministère de la défense a dit que les élèves rejoindront le programme « de leur plein gré et avec le soutien de leurs parents » et que le programme s’engage tout du long vis-à-vis des étudiants. Il ne leur sera pas exigé de prendre des décisions sur leur avenir en troisième, et ceux qui n’iront pas au bout du programme retourneront dans les lycées d’où ils viennent ».