xAI, maison mère du réseau social X et du moteur d’IA générative Grok, poursuit en justice un homme de Caroline du Sud au motif qu’il aurait utilisé Grok pour créer du contenu représentant des agressions sexuelles sur mineurs (Child sexual abuse material, CSAM). L’homme, Terry Harwood, a été arrêté plus tôt dans l’année pour des faits d’exploitation sexuelle de mineurs.
D’après la plainte de xAI, déposée devant la cour fédérale texane, il aurait violé les conditions d’utilisation des services de la société, rapporte Reuters.
C’est, a priori, la première plainte de ce type déposée par une société éditrice de système d’IA générative contre l’un de ses utilisateurs. C’est aussi un type d’action tout à fait cohérent avec une pratique récurrente d’Elon Musk, patron de xAI. Homme le plus riche de la planète, il est connu pour tenter de régler nombre de ses conflits devant les tribunaux (quelquefois sans succès, comme dans l’affaire qui l’a récemment opposé au PDG d’OpenAI Sam Altman).
Si le profil de l’internaute visé peut expliquer la décision de le poursuivre en justice, la plainte a ceci d’étonnant qu’elle a été déposée alors même qu’Elon Musk a personnellement supervisé le tournant de plus en plus sexualisé des résultats de Grok.
Elle peut néanmoins faire office de démonstration de ses pratiques de modération, alors que la société est sous le coup de multiples enquêtes à travers le monde.
La plainte contient par exemple l’affirmation selon laquelle xAI a suspendu 52 222 comptes et soumis 73 604 alertes au Centre national pour les enfants disparus et exploités (NCMEC) des États-Unis, alertes qui auraient « conduit à (au moins) 244 arrestations ».
La société accuse Terry Harwood d’avoir téléchargé des images non sexuelles d’adultes et d’enfants sur Grok pour générer des deepfakes pornographiques de ces différentes personnes. Elle l’accuse aussi d’avoir produit des images pornographiques non consenties d’adultes.
Commentaires (2)
Abonnez-vous pour prendre part au débat
Déjà abonné ou lecteur ? Se connecter
Cet article est en accès libre, mais il est le produit d'une rédaction qui ne travaille que pour ses lecteurs, sur un média sans pub et sans tracker. Soutenez le journalisme tech de qualité en vous abonnant.
Accédez en illimité aux articles d'un média expert
Profitez d'au moins 1 To de stockage pour vos sauvegardes
Intégrez la communauté et prenez part aux débats
Partagez des articles premium à vos contacts
Abonnez-vousAujourd'hui à 08h30
À l'instant
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?