Gemini : Google conserve des « conversations » et les fait analyser par des humains

Criquet ou requin ?

Avatar de l'auteur
Martin Clavey

Publié dans

IA et algorithmes

12/02/2024
8

Google a annoncé la semaine dernière qu'elle rebaptisait son IA Bard du nom de Gemini. Mais les conditions d'utilisation précisent que derrière Gemini, Google stocke par défaut certaines « conversations » des utilisateurs pour les faire « lire, annoter et traiter » par des relecteurs humains.

Dans un billet de blog, le PDG de Google, Sundar Pichai, a annoncé jeudi 8 février le changement de nom de l'offre d'IA de l'entreprise : « Bard s'appellera désormais simplement Gemini »... comme la famille de grands modèles de langage développée par l'entreprise. Sundar Pichai voit Gemini comme un écosystème entier.

Cette offre d'IA générative se retrouve dans une nouvelle application du même nom pour Android, dans l'application Google pour iOS et dans les outils du groupe comme Workplace et Google Cloud. Comme ChatGPT, Gemini a sa version premium (Google l'appelle « Gemini Advanced ») qui permet d'utiliser le plus gros des modèles de langage de la famille Gemini, Ultra.

Mais comme souvent dans les outils numériques en ligne, c'est dans le « guide sur la confidentialité » de Gemini, mis à jour en même temps que la publication du billet de blog de Sundar Pichai, que se cachent les informations sur ce que Google fait des « conversations » entre les utilisateurs et son IA.

Des « conversations » lues par des relecteurs humains

La suite est réservée à nos abonnés.

Déjà abonné ? Se connecter

Abonnez-vous
8

Écrit par Martin Clavey

Tiens, en parlant de ça :

Sommaire de l'article

Introduction

Des « conversations » lues par des relecteurs humains

Des « conversations » conservées pendant trois ans

Base juridique du contrat et du consentement en Europe

Le brief de ce matin n'est pas encore là

Partez acheter vos croissants
Et faites chauffer votre bouilloire,
Le brief arrive dans un instant,
Tout frais du matin, gardez espoir.

Commentaires (8)


Trit’ Abonné
Le 12/02/2024 à 15h 09
Heureusement que le vrai Gemini (le protocole Internet, et qui restera le seul et unique « Gemini » pour moi) ne fait rien de tout ça, lui !
Modifié le 12/02/2024 à 15h09

Historique des modifications :

Posté le 12/02/2024 à 15h09


Heureusement que le vrai Gemini (le protocole Internet, et qui restera le seul et unique « Gemini » pour moi) ne fait rien de tout ça, lui !

Jarodd Abonné
Le 12/02/2024 à 15h 23
TL;DR : Google.
wanou2 Abonné
Le 12/02/2024 à 16h 41
Google ne cache pas franchement ce point quand on arrive sur la page de gemini on a l'information en plein milieu de l'écran :

"Vos conversations sont traitées par des réviseurs humains afin d'améliorer les technologies sur lesquelles reposent les applications Gemini. Ne saisissez aucune information que vous ne souhaitez pas voir examinée ou utilisée."
fred42 Abonné
Le 12/02/2024 à 16h 48
>Le guide précise aussi qu’en Europe et là où le RGPD est en vigueur, le traitement des informations par Gemini se fait au départ notamment sur la base de l’exécution d’un contrat « afin de fournir et de gérer le service des applications Gemini que vous avez demandé conformément aux Conditions d’utilisation de Google et aux Conditions d’utilisation supplémentaires de l’IA générative ».

Ils sont mal barrés !

L'amélioration du produit ne fait pas partie de ce qui est accepté pour l'exécution d'un contrat, pas plus que pour l'intérêt légitime d'ailleurs.
La CNIL dit :
>Le traitement en cause doit être objectivement nécessaire à l’exécution du contrat. Cela signifie qu’il doit uniquement permettre à l’organisme d’exécuter le contrat spécifique conclu avec la personne, c’est-à-dire de fournir le produit ou le service souhaité par celle-ci, et ne doit pas viser un autre objectif, permettant par exemple la poursuite d’intérêts distincts ou exclusifs du responsable de traitement.

Et ici l'amélioration de l'IA n'est pas l'objet du service fourni.
linkin623 Abonné
Le 12/02/2024 à 19h 27
"Et ici l'amélioration de l'IA n'est pas l'objet du service fourni." => tout à fait, mais c'est toujours le fonctionnement d'un service Google.

Ils ne vont pas pouvoir se couper du marché EU de toute façon, et ça va se passer comme suit :
- Google le fait quand même
- Quand l'Europe s'en occupe, Google paye des lobbyistes pour retard une législation
- La législation arrive, Google fait semblant de s'y conformer
- Google a une amende

ETA : 10 ans.
fred42 Abonné
Le 12/02/2024 à 19h 35

linkin623

"Et ici l'amélioration de l'IA n'est pas l'objet du service fourni." => tout à fait, mais c'est toujours le fonctionnement d'un service Google.

Ils ne vont pas pouvoir se couper du marché EU de toute façon, et ça va se passer comme suit :
- Google le fait quand même
- Quand l'Europe s'en occupe, Google paye des lobbyistes pour retard une législation
- La législation arrive, Google fait semblant de s'y conformer
- Google a une amende

ETA : 10 ans.
Le RGPD existe déjà. Ton scénario est mauvais.

Par contre, il commence bien pareil :
- Google le fait quand même

ensuite :

- quelqu'un porte plainte
- une CNIL s'en occupe, Google a une amende après un an minimum, probablement bien plus car en Irlande.
- Google fait appel devant la juridiction appropriée
- ça reprend du temps
- L'amende est confirmée ou un peu minorée parce qu'elle n'était pas bien justifiée par la CNIL
CharlesP. Abonné
Le 23/02/2024 à 16h 19

fred42

Le RGPD existe déjà. Ton scénario est mauvais.

Par contre, il commence bien pareil :
- Google le fait quand même

ensuite :

- quelqu'un porte plainte
- une CNIL s'en occupe, Google a une amende après un an minimum, probablement bien plus car en Irlande.
- Google fait appel devant la juridiction appropriée
- ça reprend du temps
- L'amende est confirmée ou un peu minorée parce qu'elle n'était pas bien justifiée par la CNIL
Je me suis chargé de la seconde étape, on vas bien voir :)
Modifié le 23/02/2024 à 16h19

Historique des modifications :

Posté le 23/02/2024 à 16h19


Je me suis chargé de la première étape, on vas bien voir :)

SebGF Abonné
Le 12/02/2024 à 19h 50
Comme OpenAI (avec un opt-in par défaut), ou encore GitHub Copilot dans la version personnelle. C'est indiqué dans les CGU aussi.

Par contre, les versions Enterprise (GitHub Copilot for Business ou ChatGPT Enterprise) n'ont généralement pas ces clauses, mais elles sont aussi plus chères à l'usage. Cependant, l'analyse de données de GitHub Copilot Enterprise est aussi relativement floue (le user engagement data) quand on lit le déclaratif.

Et comme toujours, il s'agit d'engagements contractuels. Rien de plus.