Il sera mis à l’épreuve sur des volontaires ayant sollicité une aide en raison de leur attirance pour les images illicites afin de s’assurer qu’ils ne peuvent pas céder à leur envie.
Lorsqu’il est installé sur un appareil, tel qu’un téléphone, le programme reconnaîtra et empêchera l’affichage d’images et de vidéos offensantes.
On pense que cela contribuera à réduire la « demande croissante » de photographies de maltraitance d’enfants.
Des organisations de l’UE et du Royaume-Uni ont uni leurs forces sur le projet Protech.
L’application Salus du projet, qui utilise l’intelligence artificielle pour identifier les informations potentiellement pornographiques et empêcher les utilisateurs de les voir, est conçue pour fonctionner en temps réel.
L’Internet Watch Foundation, une organisation qui travaille pour trouver, signaler et supprimer le matériel pédopornographique, aidera à former la technologie d’intelligence artificielle développée par la société britannique SafeToNet.
Tom Farrell de SafeToNet, qui a travaillé pendant 19 ans dans l’application de la loi, a déclaré à la BBC que l’application n’était pas destinée à être un outil pour signaler les utilisateurs à la police : « Les personnes qui cherchent volontairement à s’empêcher de voir du matériel d’abus sexuel d’enfants ‘t utiliser une telle solution s’ils pensent qu’il allait les signaler aux forces de l’ordre. »
« Aide pratique »
Les volontaires qui téléchargent l’application seront recrutés via des organisations travaillant avec des personnes cherchant de l’aide parce qu’elles sont attirées par les images d’abus d’enfants en ligne.
L’une de ces organisations est l’association caritative britannique Lucy Faithfull Foundation, qui gère une ligne d’assistance téléphonique pour ceux qui craignent de télécharger des images illégales et souhaitent arrêter. Cela inclut un nombre important de personnes qui admettent être des pédophiles, dont certaines ont déjà été condamnées.
Donald Findlater, de la fondation, a déclaré que des outils tels que la nouvelle application pourraient aider les individus à contrôler leur comportement, ajoutant : « c’est une aide pratique pour les personnes qui reconnaissent une vulnérabilité en elles-mêmes ».
Les membres du projet Protech espèrent qu’il pourra endiguer la « demande croissante de matériel d’exploitation sexuelle d’enfants en ligne ».
Un nouveau record de 30,925 2021 infractions impliquant la possession et le partage d’images indécentes d’enfants ont été commises en 2022/XNUMX, selon le NSPCC.
L’année dernière rapport par le groupe de réflexion Police Foundation a déclaré que le volume d’infractions d’abus sexuels d’enfants en ligne avait « simplement submergé la capacité des forces de l’ordre, à l’échelle internationale, à réagir ».
Les membres du projet qui ont parlé à la BBC ont suggéré que la police seule n’empêcherait pas les gens de télécharger des images.
M. Farrell fait valoir que le Royaume-Uni a arrêté plus de personnes pour possession de matériel d’abus sexuel d’enfants que tout autre pays au monde depuis 2014 et, ce faisant, a identifié des délinquants très graves.
Mais des millions de personnes regardent encore des images
« Donc, l’arrestation ne sera pas la solution. Nous pensons que nous pouvons travailler du côté de la prévention et réduire la demande et réduire l’accessibilité. »
« Etape pilote »
De nombreux détails sur le fonctionnement de l’application doivent encore être réglés. Aucune IA n’est parfaite et un équilibre devra être trouvé entre le surblocage – qui rendrait difficile l’utilisation légitime d’un appareil – et le sous-blocage – qui ne parvient pas à détecter de nombreuses images d’abus.
M. Farrell indique que l’application sera testée dans une « phase pilote » dans cinq pays – l’Allemagne, les Pays-Bas, la Belgique, la République d’Irlande et le Royaume-Uni avec au moins 180 utilisateurs sur une période de 11 mois.
Et les experts non impliqués dans le projet pensent que l’idée est prometteuse.
Le professeur Belinda Winder de l’Université de Nottingham Trent a déclaré qu’il s’agissait d’un développement bienvenu qui pourrait soutenir les personnes qui « veulent être aidées à résister à leurs pulsions malsaines et qui bénéficieraient de ce filet de sécurité ».
Comme pour tous les nouveaux outils technologiques, le diable serait dans les détails et le professeur Winder avait des questions sur la façon dont cela fonctionnerait dans la pratique, mais a déclaré : « C’est un pas positif dans la bonne direction. »
