L'Internet Watch Foundation, ONG qui gère la hotline des signalements de photos ou de vidéos d'abus sexuels sur enfants sur Internet, tire la sonnette d'alarme sur les contenus pédopornographiques générés par IA.

Elle explique rencontrer de plus en plus de contenus d'abus sexuels d'enfants créés en utilisant les technologies d'intelligence artificielle sur des sites aisément accessibles.

L'IWF ajoute avoir agi à propos de 74 signalements pour de tels contenus entre avril et fin septembre (une période de 6 mois donc). Elle avait agi sur 70 signalements sur la période des 12 mois précédents, entre avril 2023 et avril 2024.

Pour 99 % de ces contenus, aucun navigateur spécifique comme Tor Browser n'était nécessaire pour y accéder.

La plupart d'entre eux (78 %) lui ont d'abord été signalés par des internautes qui sont tombés sur un forum ou une galerie d'images générées par IA. Le reste a été détecté par les analystes de l'ONG en cherchant de manière proactive.

Mais, en plus du problème de la profusion d'images de ce type, l'Internet Watch Foundation explique que la détection de photos pédocriminelles réelles risque d'en pâtir.

Un de ses analystes témoigne : « Je trouve cela vraiment effrayant, car j'ai l'impression que nous sommes à un point de basculement et que des organisations comme nous et la police risquent d'être submergées par des centaines et des centaines de nouvelles images, sans que nous sachions toujours s'il s'agit d'un véritable enfant qui a besoin d'aide ».

L'ONG signale que plus de la moitié des serveurs qui hébergeaient ce type de contenus se trouvaient dans deux pays : 27 en Russie, 16 aux États-Unis. Le Japon et les Pays-Bas suivent avec respectivement 8 et 6 des serveurs. 3 de ces serveurs se trouvaient en France et un seul des serveurs listés par l'IWF n'était accessible que via une URL en .onion.

L'IWF rappelle que ses analystes continuent de repérer des images de victimes de pédocriminalité utilisées pour générer de nouvelles images et des deepfakes de violences sexuelles.

En mai dernier, OpenAI lançait sa première application. Elle visait les Mac et contenait toutes les fonctions que l’on pouvait en attendre. Elle se destinait aux abonnés payants de ChatGPT, avant d’être utilisable par tous quelques semaines plus tard. L'application avait été épinglée pour son stockage des données en clair, avant d'être corrigée.

On ne sait pas vraiment pourquoi, mais il aura fallu des mois pour qu’une version Windows apparaisse, et il s’agit d’une préversion. Réservée aussi aux abonnés payants, elle prend en charge l’envoi de fichiers et de photos, toutes les fonctions sur les textes (dont les résumés), ainsi que la génération d’images via DALL-E 3. Tous les modèles d’OpenAI sont supportés jusqu’à o1-preview.

S’agissant d’une préversion, plusieurs fonctions manquent cependant à l’appel, dont le support des commandes vocales. Tout ne fonctionne pas encore non plus avec le GPT Store. Sur X, OpenAI indique qu’une version finale et complète arrivera d’ici la fin de l’année. Si l’entreprise garde le même schéma que pour son application Mac, l’utilisation sans abonnement devrait arriver quelques semaines plus tard.

Hier, Mathilde vous a proposé un bonus après la mise en ligne du deuxième épisode du podcast Algorithmique, avec une transcription de l’interview de Raziye Buse Çetin. On y parle évidemment d’intelligence artificielle. gg40 propose une vidéo qui fait le buzz ces derniers jours : L'horreur existentielle de l'usine à trombones par EGO.

• Raziye Buse Çetin : « Ceux qui financent les projets d’IA les plus fous sont les mêmes qui demandent d’arrêter la recherche »

Ne vous arrêtez pas aux trombones, c’est un prétexte pour aller bien plus loin. La vidéo commence par de clics pour produire des trombones, puis s’accélère avec des (sur)optimisation, avant de passer à l’intelligence artificielle et la « super intelligence », entre fantasme et espoirs.

En tout cas, tout le monde est conscient d’avoir conscience qu’il faut être conscient… mais on s’égare et on vous laisse regarder la vidéo. Je ne sais pas pour vous, mais la conclusion me fait un peu penser au Guide du voyageur galactique…