Le géant américain de la technologie Google a annoncé lundi qu’il utilisait une nouvelle technologie d’intelligence artificielle pour lutter contre la diffusion en ligne de contenus impliquant des abus sexuels sur des enfants. Google a déclaré que sa technologie de pointe d’IA utilisait des réseaux de traitements profonds pour le traitement des images afin de faciliter la découverte et la détection en ligne de matériel pédopornographique. Le nouvel outil basé sur les réseaux profonds sera mis gratuitement à la disposition des organisations non gouvernementales et d’autres «partenaires industriels», notamment d’autres sociétés technologiques, via un nouveau service API de sécurité du contenu qui pourrait être proposé sur demande.
“Utiliser Internet pour diffuser du contenu exploitant sexuellement des enfants est l’un des pires abus imaginables”, a déclaré Nikola Todorovic, responsable de l’ingénierie de Google, et Abhi Chaudhuri, chef de produit, dans le blog officiel de la société. La nouvelle technologie de l’IA aidera de manière significative les fournisseurs de services, les ONG et les autres entreprises de technologie à améliorer l’efficacité de la détection CSAM et à réduire l’exposition des lecteurs humains au contenu, ont déclaré les deux ingénieurs de Google. “L’identification rapide de nouvelles images signifie que les enfants victimes de violences sexuelles aujourd’hui seront beaucoup plus susceptibles d’être identifiés et protégés contre d’autres abus”, ont-ils noté. “Nous avons déjà observé que ce système peut aider un réviseur à trouver et à agir sur 700% de contenu CSAM de plus au cours de la même période”, ont-ils ajouté.
De nombreuses entreprises technologiques sont désormais plus disposées à exploiter l’IA pour détecter divers types de contenus CSAM, tels que la nudité et les commentaires abusifs. L’annonce de Google montre bien son engagement à lutter contre les contenus en ligne grâce aux dernières avancées technologiques. Google a coopéré avec certains de ses partenaires dans la lutte contre les abus sexuels sur les enfants en ligne, notamment l’organisation caritative britannique « Internet Watch Foundation », la » Technology Coalition » et la « WePROTECT Global Alliance », ainsi que d’autres organisations non gouvernementales.
