Le Gouvernement Britannique Développe un Outil de Prédiction de Meurtre par IA Controversé

Le gouvernement britannique travaille sur un projet controversé qui utilise l’IA pour prédire qui pourrait commettre un meurtre à l’avenir.

L’existence du programme a été révélée grâce à des demandes faites en vertu de la loi sur la liberté de l’information, obtenues par le groupe de surveillance Statewatch.

Leurs conclusions suggèrent que des données personnelles sensibles sont utilisées. Cela inclut les dossiers de santé, les informations sur la santé mentale, l’historique des dépendances et les données concernant des personnes qui n’ont jamais été condamnées pour un quelconque délit.

Statewatch rapporte que le Ministère de la Justice (MoJ) est à la tête de ce plan, examinant les dossiers existants des autorités sur les personnes pour empêcher que des crimes graves ne se produisent.

Initialement nommé le « projet de prédiction des homicides », il est maintenant appelé « partage de données pour améliorer l’évaluation des risques ». Le projet est actuellement en phase de recherche, mais des militants et des défenseurs de la vie privée ont exprimé leurs inquiétudes, comme le rapporte Statewatch.

Cependant, les officiels nient cela. The Guardian rapporte qu’un porte-parole du Ministère de la Justice a déclaré : « Ce projet est mené uniquement à des fins de recherche. Il a été conçu à partir de données existantes détenues par le Service des Prisons et de Probation de Sa Majesté et les forces de police sur les délinquants condamnés pour nous aider à mieux comprendre le risque que les personnes en probation commettent des violences graves. Un rapport sera publié en temps voulu. »

Selon Statewatch, la police du Grand Manchester a partagé des données concernant jusqu’à un demi-million de personnes. Cela incluait les victimes, les suspects et les personnes en situation de vulnérabilité.

Sofia Lyall, chercheuse à Statewatch, a vivement critiqué le projet, déclarant : « La tentative du Ministère de la Justice de construire ce système de prédiction de meurtres est le dernier exemple glaçant et dystopique de l’intention du gouvernement de développer des soi-disant systèmes de ‘prédiction’ de crimes. »

Elle a prévenu que le système aggraverait la discrimination raciale et de classe : « Ce dernier modèle, qui utilise les données de notre police et du Home Office institutionnellement racistes, va renforcer et amplifier la discrimination structurelle qui sous-tend le système juridique pénal. »

« L’utilisation de données aussi sensibles sur la santé mentale, la dépendance et le handicap est extrêmement intrusive et alarmante », a-t-elle ajouté.

Le gouvernement soutient que des outils comme celui-ci pourraient améliorer la façon dont les services de probation évaluent les risques et préviennent la criminalité violente. Mais les critiques disent que le système pourrait conduire à ce que des personnes soient injustement étiquetées comme des meurtriers potentiels en raison de données biaisées et erronées.

Le gouvernement soutient que ces outils amélioreront la capacité des services de probation à évaluer le risque et à empêcher les crimes violents de se produire. Les critiques, cependant, mettent en garde contre le risque que le système étiquette des personnes comme des meurtriers potentiels à travers des données mauvaises et biaisées.

Bien qu’il soit toujours en développement, Statewatch rapporte que des documents mentionnent la « mise en œuvre future » du système, suscitant des inquiétudes quant à son éventuelle utilisation prochaine dans des décisions de police réelles.