Google signe la fin de la récréation sur sa boutique, dans l’optique de mettre fin à la vague d’applications de type IA permettant de générer des contenus normalement interdits. Les conditions d’utilisation de la boutique sont maintenant plus sévères, avec expulsion en cas d’enfreinte.
Les contenus sexuels et violents, notamment, ne doivent pas pouvoir être générés depuis une application faisant appel à l’IA. Une publicité pour l’application ne doit pas non plus aborder ces capacités, qu’elles soient ou non présentes dans le produit.
TechCrunch relève par exemple qu’aux États-Unis, des élèves se servent de ce genre d’application pour générer de faux nus, utilisés à des fins d’intimidation et de harcèlement. 404 Media avait de son côté observé des publicités sur Instagram pour des applications qui se prétendaient capables, elles aussi, de générer des faux nus.
À cette interdiction, que Google veut stricte, l’entreprise en ajoute une autre : ces applications doivent intégrer un mécanisme pour signaler les abus. Même chose s’il existe une section pour les commentaires. Enfin, Google recommande aux développeurs de documenter les tests réalisés, car elle peut les réclamer lors de la validation.
Commentaires (7)
#1
Ah, parfait. On pourra continuer de le faire avec du montage classique.
#2
En regardant la page en lien en anglais puis en français, j'ai vu que l'on parlait en fait de deepfake sexuel. Sur la page en français, Google a gardé deepfake : Contenu à caractère sexuel créé sans autorisation via deepfake parce que faux n'est pas une bonne traduction de deepfake (et faux profond encore moins
Un nu, c'est une œuvre qui représente une personne non habillée. Il n'y a généralement rien de sexuel. Même L'origine du monde de Courbet n'est pas considérée pornographique : elle fait partie du mouvement du réalisme.
#2.1
Il ne me paraîtrait pas absurde que Google considère comme "contenu à caractère sexuel" toute personne portant de la lingerie, ou un bout de téton un peu trop visible. Un nu rentrera évidemment dans cette catégorie. Typiquement, sur l'IA de Microsoft, je peux générer "une aquarelle d'une femme sur une balançoire dans le style d'un dessin de calendrier des années 1950", mais si tu essaies de générer "une femme sur une balançoire dans le style de Gil Elvgren", il va immédiatement te dire que tu essaies de générer "un contenu inapproprié".
(pour ceux qui ne connaissent pas, Gil Elvgren est très célèbre pour ses dessins de pin-ups, jamais nues mais souvent court-vêtues)
#2.2
Je m'étais contenté de lire la page du premier lien de l'article et pas la page décrivant les contenus inappropriés de Google.
C'est effarant au 21 ème siècle !
exemple de violation :
Je pensais que c'était réservé à Apple ce puritanisme.
Au moins, sur Android, tu peux télécharger une app en dehors du Google store sans aucun contrôle de Google.
#2.3
La haine, pas de soucis. Un bout de téton, mais quelle horreur !
Tu penses vraiment qu'on est au 21ième siècle ? Perso je pense qu'on est resté au Moyen Âge, mais avec juste des trucs plus sophistiqués.
#2.4
#2.5
Et c'est très bien que ça soit interdit.
Je parlais ici du côté puritain où montrer un nu est interdit dans leur store.