Comment imaginer le futur d’ici une dizaine d’années ? La CNIL se lance dans cet exercice périlleux avec comme axe de travail, les données à caractère personnel et la vie privée. Sans avoir la prétention d’apporter une réponse, elle détaille trois scénarios possibles, aussi différents qu’inquiétants, qui ont le mérite de soulever plusieurs questions.

Dans son dernier rapport d’activité, la Commission nationale de l'informatique et des libertés dressait son bilan de l’année 2020, particulière à plus d’un titre. Il était évidemment question de l’impact de la crise sanitaire, des nouvelles règles sur les cookies, de cybersécurité et de souveraineté numérique.

La CNIL évoquait aussi les grandes lignes de ses actions à venir. Elle souhaite par exemple se faire davantage connaitre du grand public, ajoutant que cette prise de conscience « constitue un enjeu stratégique majeur », car elle est nécessaire pour continuer de « répondre efficacement aux demandes des citoyens ». 

Elle veut également « rendre visibles les infrastructures de données » et « encourager le développement et la création de nouveaux corps intermédiaires de la donnée », via des associations de consommateurs par exemple. 

Dans un autre document tout aussi intéressant, le pôle Innovation, Études et Prospectives ainsi que Laboratoire d’Innovation Numérique de la CNIL (LINC) proposent « une exploration prospective et spéculative » sur la protection de la vie privée à l’horizon 2030. 

• La CNIL évoque son action passée et son futur
• Les (inquiétantes) prévisions de la CNIL pour la vie privée en 2030

Réflexions sur les différentes inégalités et leurs conséquences

La première partie du rapport propose une « réflexion sur l’évolution des inégalités à l’horizon 2030 et la manière dont ces facteurs pourraient être amenés à influencer nos vies numériques ». Il rappelle qu’il faut distinguer les inégalités « de quoi » sur les revenus, éducation, emploi, social, politique, conditions de vie, de ceux « entre qui et qui ». Dans le second cas, il est question de catégories sociales, de sexe, d’âge, de milieu social, etc. 

La gardienne des libertés explique qu' actuellement, « la tendance mondiale est à une augmentation des inégalités de revenu et de patrimoine ». Alors que dans les pays en développement les ressources des plus pauvres peuvent avoir tendance à augmenter (pas forcément au même rythme), dans certains pays développés la pauvreté augmente. « C’est moins nettement le cas en France grâce au système social, mais le revenu disponible des 20 % de ménages les plus pauvres n’a pas augmenté depuis 2008 », affirme le document.

La CNIL rappelle que, plus largement, l’inégalité ne se mesure pas seulement en valeurs monétaires, en biens ou en services : « au bas de l’échelle, cela peut être l’expérience de la stigmatisation, de l’abandon (accessibilité amoindrie des services essentiels), de la défiance (surveillance, contrôles policiers ou sociaux), de la dévalorisation… ».

Et les précisions pour 2030 sont assez pessimistes : « les crises écologiques, mais aussi les politiques proactives ou réactives associées, pourraient avoir des conséquences fortes sur l’ensemble des systèmes économiques et sociaux ». La CNIL se fait l’écho de l’hypothèse de certains – renforcée par la pandémie de Covid-19 – que sur une longue période vont se succéder et se combiner des « multicrises » sans retour à la normale.

Partant de ce constat, la CNIL propose six esquisses d’horizons prospectifs, en reconnaissant « qu’il en existe certainement d’autres » :

• « équité de base universelle » avec un investissement massif dans l’éducation, 
• « tribalisation et féodalisation » avec le remplacement des systèmes collectifs par des solidarités communautaires, 
• « ordre social rationnel » avec un système 100 % méritocratique, 
• « stratification par la force » où le haut de la société se sépare du reste dans quelques métropoles globales,
• « révolution » avec des crises à répétition et l’exacerbation des inégalités cassant l’ordre social,
• « croissance inclusive » avec un « capitalisme philanthropique » qui fait sortir de la pauvreté des milliards de personnes.

Le numérique en marche forcée, pour le meilleur et pour le pire

Sur le numérique, les changements ont été profonds au cours des dernières décennies : « En 25 ans, l’Internet est devenu le support commun d’une grande partie de nos échanges, activités, informations et transactions. En 15 ans, le smartphone est devenu l’accessoire de vie de la plupart d’entre nous ».

Les inégalités sont parfois profondes face à cette progression à marche forcée. Pour certains, le numérique donne plus de capacité d’agir sur leur vie et leur environnement, pour d’autres au contraire il donne le sentiment qu’on prend des décisions pour eux… et parfois même ces deux sentiments peuvent se mélanger.

La CNIL dresse un portrait des deux facettes :

« On critique et loue le numérique à propos de son impact sur l’environnement, le travail, les inégalités, la vie privée, les libertés. On s’inquiète de l’accumulation de données personnelles et du pouvoir qu’elle donne aux grandes plateformes, voire à certaines dictatures, mais on s’en sert aussi pour les combattre.

On le trouve trop présent dans nos vies, mais il nous sauve la mise pendant le confinement. Bref, notre relation au numérique… c’est compliqué, et ce n’est pas la même chose pour tout le monde ».

La question est maintenant de savoir – ou du moins d’essayer de deviner – ce qu’il en sera dans 10 ans, que ce soit sur notre utilisation du numérique, son empreinte et son emprise sur le monde, la place qu’occuperont les données personnelles, les outils dont nous disposerons, l’(in)égalité entre les personnes, etc.

Dans son document, la CNIL dessine deux principales formes de projection pour l’avenir. D’un côté « un prolongement aux limites des tendances perceptibles aujourd’hui » où l’emprise du numérique domine sur tous les aspects de la vie. De l’autre, « des formes de résistance et d’alternatives, mais au sein d’un monde très largement reconfiguré par le numérique », dans un contexte qui n’est pas radicalement différent de celui d’aujourd’hui.

Une hypothèse est absente des projections : celle « d’un monde plus low-tech »… même si la CNIL propose tout de même une ébauche d’approche à l’horizon 2040, après des crises écologiques changeant drastiquement le monde. 

Trois futurs, ni dystopiques ni utopiques

La Commission décrit ensuite trois futurs spéculatifs avec comme ligne directrice la place de la vie privée en 2030. Elle précise que ce triptyque n’a rien d’exhaustif et qu’une infinité d’autres possibilités mériteraient tout autant d’être considérées et discutées :

• « Réputé ou répudié avec un futur où la notation-réputation fait loi.
• L’ingérence face aux ingérables, où l’État met en place une ingérence d’intérêt général
• Home Sour Home, où les murs de différents foyers se sont imprégnés de données. »

Ces trois hypothétiques futurs ne sont pas purement dystopiques ou utopiques, ni tout blancs ou tout noirs. « Ils oscillent entre le gris clair et le gris foncé : les choses y sont imparfaites, cassées, détournées. Les situations présentées y sont donc volontairement ambiguës et leur préférabilité est nécessairement sujette à question ».

À chaque fois, les points de départ en 2020 laissant présager cet avenir sont détaillés. Pour les deux derniers, la CNIL propose également plusieurs pages de « débats » que l’on vous conseille de lire si le sujet vous intéresse. 

Réputé ou répudié : comment assurer sa réputation

Dans le premier futur, « la réputation figure en bonne place parmi les métriques qui conditionnent la vie quotidienne ». Il n‘y a par contre pas de système de notation unique et global. Nous ne sommes donc pas exactement dans le monde imaginé par l’épisode Chute libre de Black Mirror : « Plateformes privées, administrations publiques, ou encore associations d’intérêt général, chaque acteur y va de son système de notation et d’appréciation ».

Dans cette version de 2030, chacun « doit jongler avec une multitude de scores et de profils de réputation qui le suivent à la trace, sans en avoir nécessairement connaissance ». L’utilisateur doit ainsi se livrer à un véritable jeu d’équilibriste « pour assurer sa réputation à la fois auprès des plateformes et de ses proches ». 

Les utilisateurs se retrouvent ainsi ballottés entre la tentation de l’autocensure (social cooling) et l’impératif d’être présent en ligne avec une « personnalité algorithmiquement et socialement acceptable ». 

La CNIL évoque la possible mise en place d’« entrelaceurs ». Il s’agit de dispositifs numériques qui s’inscrivent dans les interstices de la législation et dont le but est d’essayer de duper le système. Ils disséminent de fausses traces de présence à des événements virtuels ou physiques.

On rappellera que des élèves de certaines classes n’ont pas attendu 2030 pour simuler leur présence à des cours en distanciel durant les deux confinements.

Vers un nouveau phénomène de cosplayification ?

Dans ce monde de la notation, une nouvelle pratique pourrait émerger : La cosplayification. « Dans la lignée des influenceurs qui ont marqué le début des années 2020, des entreprises – assurances en tête – proposent aux utilisateurs de vivre "à la manière de" ».

Les utilisateurs se laisseraient ainsi guider par la vie d’une autre personne, que l’on pourrait ainsi presque vivre par correspondance. Suivre ce modèle générait « les "bonnes données" qui permettront d’atteindre le même niveau de réputation que la célébrité choisie ».

Conséquence prévisible de ce système de notation, « la décennie 2030 est également marquée par le fléau de l’empoisonnement des données personnelles (par un État concurrent, une organisation parapolitique, une ligue d’intérêts convergents) dans le but de nuire au calcul de réputation et autres scores de crédibilité ».

Pour « aider » les internautes, la CNIL imagine l’apparition d’applications telles que « Rep Simulator », permettant de « simuler l’impact d’un choix ou d’un comportement sur son profil de réputation ou sa notation ». Est-ce que sortir avec cette personne serait bon pour ma réputation ? Se marier avec untel est-il un bon choix algorithmique ? En 2030, on pourrait ainsi réinventer l’expression « ne pas calculer quelqu’un ».

L’ingérence face aux ingérables, une « première datastrophe »

Même période, autre scénario : « Dès 2032, la France a renoué avec les sombres travers d’État paternaliste. La puissance publique a recours à des moyens aussi inattendus que questionnables pour s’ingérer tacitement dans le quotidien de ses concitoyens jugés les plus ingérables ».

Ce changement de paradigme serait la conséquence directe de la « première datastrophe » de l’Hexagone, c’est-à-dire « la fuite massive de données personnelles et confidentielles de la France tout entière organisée par une nation autrefois "amie" et aujourd’hui "adverse" ».

Dans ce scénario, l’État pourrait aussi organiser un « viol numérique », que l’on peut aussi comparer à une « vaccination » d’une certaine manière. La CNIL s’explique : « L’idée est aussi subtile que perverse : à la manière d’un vaccin, il s’agit d’inoculer à la personne une prise de conscience de sa vulnérabilité grâce à une expérience traumatisante de pénétration de l’intimité numérique, et ainsi stimuler sa réponse immunitaire, à savoir une protection accrue ».

Entre utilisation des fake news et uchronie pédagogique 

Dans ce monde, les fake news joueraient un rôle majeur : « le gouvernement a établi une stratégie de communication "officieuse" qui consiste à développer son message d’intérêt public sous la forme de théories du complot qui vont dans son sens ». Ainsi, des groupuscules pourraient se retrouver à suivre des théories conspirationnistes et adopter « presque malgré eux, les bonnes pratiques souhaitées par l’État ».

Ce n’est pas tout, dans ce possible monde futuriste, les administrations pourraient « cherche à évaluer et démontrer que si certains choix de vie "souhaitables" et "recommandés" avaient été faits, la difficulté rencontrée par le citoyen aurait connu un dénouement positif ».

Exemple est donné d’une demande d’indemnisation d’une personne suite à une sécheresse. Elle est refusée, car le demandeur est déclaré contributeur indirect de l’apparition du sinistre. Plusieurs raisons peuvent être mises en avant : acheter un véhicule thermique d’occasion de type super-SUV, une consommation excessive et recréatrice d’eau, ainsi que le relai de contenus appelant à des actions climatonégationnistes.

Home sour Home : mi casa es tu casa… de gré ou de force

Dans le dernier des trois futurs mis en avant par la CNIL, « les domiciles ont changé, mais leur diversité, elle, est restée constante. La figure du foyer, au sein duquel on se retrouve et on vit, est multiple. Soit autant de "chez soi, et en même temps chez l’autre", l’autre étant aussi bien ce conjoint ou parent que ce géant du numérique qui s’est fait une place entre nos murs ».

Dans ce monde, « toutes les strates de la population voient leurs pratiques du quotidien évoluer sous l’empire du numérique domestique. Chacun s’adapte ou refuse de s’adapter ». Une situation prenant comme base la permanence d’une connexion à Internet, la smartification du quotidien avec, par exemple, la pénétration des géants du Net dans nos maisons via des enceintes connectées.

Dans cette France des années 2030, la frontière entre temps personnel et temps professionnel s’est effacée puisque l’activité économique s’est directement intégrée dans les foyers. Le rapport a trouvé un mot-valise pour résumer la situation : des « employés-habitants ».

Gestion des données personnelles, assistants numériques en avocat/juge

Le quotidien des familles varie grandement suivant les cas. D’un côté il y a ceux qui signent un contrat de monopole avec un géant du Net qui accède ainsi à la totalité des données de la famille.

De l’autre on a « la maison aux mille comptes » dont le but est d’essayer d’« échapper à la surveillance tutélaire des banques et organismes de crédit, esquiver les abonnements payants pour accéder à des services en ligne, éviter les conflits d’usage entre les outils que se partagent les différents membres de la famille, et surtout s’assurer que chacun conserve un peu d’intimité en ligne sous le même toit ».

Il y a aussi des foyers qui optent pour des solutions protégeant leur vie privée, par exemple en passant à la loupe les données générées et en choisissant celles qu’il faut conserver et partager.

Une nouvelle pratique s’installe aussi avec les assistants domotiques : le « micro-chantage au quotidien ». Avec les fonctionnalités d’enregistrement en continu, « il n’a jamais été aussi simple de repasser ou resampler ce qui a été dit ou fait, pour que ces moments de vie servent de "pièce à conviction" le moment venu, c’est-à-dire lors des disputes familiales ou conjugales ».

Et si on mettait en place un quota d’usage ?

Pour pousser plus loin, à l’horizon 2039, la CNIL évoque un quota d’usage numérique. Cette limite a été instaurée suite aux urgences climatique et écologique qui ont drastiquement changé la donne. « L’heure est à la sobriété, au low-tech et au numérique dégradé ».

Chaque foyer dispose désormais d’un quota pour les services du numérique, avec une limite hebdomadaire. Là encore des inégalités sont pointées du doigt avec la possibilité pour certains d’acheter des crédits afin d’augmenter leur quota. « Un "passe-droit" que certains n’hésitent pas à rapprocher du "droit à polluer" associé aux crédits carbone des années 2010 et 2020 ».

D’autres pistes, des questions spéculativo-critiques

Durant son exploration futuriste, bien d’autres pistes ont été soulevées, sans pour autant être développées. Citons la « balkanisation du numérique » ou chaque région du monde dispose de son propre Net… à l’exception de l’Europe, dont les citoyens « doivent apprendre à naviguer entre les différents réglementations et modes d’utilisation, devenant de fait des migrants numériques ».

Il y a aussi un numérique « en commun et autogéré » pour faire face aux monopoles des géants du numérique et à un État devenu policier, la « polylégislation » avec une législation plurielle et personnalisée, etc. 

Pour finir, le rapport pose des questions  « spéculativo-critiques » sur les différents futurs de la vie privée. Elles sont destinées à un large public, allant des administrations aux acteurs sociaux, en passant par les régulateurs, législateur, concepteur et développeurs.

En voici quelques-unes : 

• Quel poids pourrait avoir les crises climatique et environnementale, et donc leurs conséquences sociales, dans l’utilisation de services numériques, publics comme privés ?
• Comment l’accélération de l’automatisation pourrait-elle améliorer ou affecter l’accès aux droits sociaux ? La gestion et la protection de la vie privée ?
• Est-il toujours opportun de mettre en place un algorithme, un système apprenant ou un usage numérique pour répondre  à une problématique publique ou sociale ?
• Quels enjeux et quelles perspectives pourraient ouvrir la mise en place d’un droit étendu de la vie privée pour nos compagnons non-humains (animaux et végétaux) ?