Alors que la publication d’images pornographiques générées par IA de l’artiste Taylor Swift alerte la toile, le média 404 démontre qu'elles ont été créées à l’aide de Microsoft Designer. Depuis, l’entreprise déclare avoir ajouté des mécanismes de protection spécifiques.

Au média, la société indique que son code de conduite interdit d’utiliser ses outils pour créer des contenus « pour adulte » ou des contenus intimes non consensuels, et que « les tentatives répétées de créer des contenus contraire à nos règlements peuvent se solder par la perte de l’accès à nos services ».

Microsoft indique par ailleurs que de « grandes équipes » travaillent à créer des outils cohérents avec ses principes d’IA éthiques, notamment pour développer des outils de filtrage, du monitoring en temps réel et de la détection de mésusage de ses outils.

Rappelons tout de même que, si elle a gardé un « Bureau de l’IA responsable », l’entreprise a licencié l'équipe spécifiquement dédiée à l’éthique de l’IA en mars 2023.

• Les deepfakes pornographiques de Taylor Swift relancent le débat sur la régulation du phénomène
• Rumman Chowdhury : « il faut investir autant dans la protection des utilisateurs que dans le développement de l’IA »
• Deepfakes pornographiques : quand l’intelligence artificielle sert à humilier