Connexion Premium

Cybersécurité : les Five Eyes sonnent l’alerte sur les modèles IA les plus avancés

Les agences de cybersécurité des Five Eyes n’ont pas l’habitude de communiquer publiquement, mais elles ont fait une exception. Nous ne serions qu’à quelques mois d’un modèle IA de frontière capable de démultiplier les capacités des attaquants comme des défenseurs.

L’alliance Five Eyes, composée des agences de renseignement des États-Unis, du Canada, du Royaume-Uni, de l’Australie et de la Nouvelle-Zélande, préfère travailler dans la discrétion. Mais exceptionnellement, elle a publié un communiqué sur les dangers que font peser les modèles IA de frontière.

Illustration : Flock

« Les modèles d’IA les plus avancés devraient dépasser les attentes actuelles du secteur et transformer en profondeur les capacités offensives comme défensives dans le cyberespace », écrivent-elles dans une déclaration reprise par The Guardian. « L’horizon n’est pas de plusieurs années, mais de quelques mois. » Et ces modèles posent des risques qui « ne peuvent plus être considérés comme une question purement technique », préviennent-elles.

Ces modèles constituent désormais « un risque stratégique pour les entreprises et une responsabilité directe des dirigeants. Une mobilisation de l’ensemble des organisations et de la société est nécessaire ». En résumé, selon les Five Eyes, les avancées de l’IA vont faciliter l’accès à des capacités offensives pour les acteurs malveillants, tout en rendant les cyberattaques plus rapides et plus sophistiquées.

L’avertissement ne tombe pas au hasard : mi-juin, le gouvernement américain interdisait à Anthropic de donner accès à ses modèles les plus performants – Fable 5 et Mythos 5 – à « tout ressortissant étranger, qu’il soit à l’intérieur ou à l’extérieur des États-Unis ». L’entreprise a préféré couper le robinet à l’ensemble de ses clients.

Le communiqué n’est pas sans rappeler le discours d’Anthropic qui, depuis la présentation de Mythos, multiplie les déclarations catastrophistes sur les possibilités de ces modèles très performants. Une manière pour le labo IA de faire sa promo, mais au vu des premiers résultats obtenus via le projet Glasswing (chez Firefox, par exemple), les capacités de détection des failles de sécurité de Mythos ne sont pas à prendre à la légère.

Reste à voir maintenant de quelle manière cet appel des Five Eyes va être entendu par le reste du monde. Les États-Unis semblent jusqu’à présent vouloir faire à leur façon, sans prendre en compte les intérêts de leurs alliés. Cette déclaration commune pourrait tout de même indiquer une certaine inflexion de l’isolationnisme états-unien en la matière.

Commentaires (9)

votre avatar
Va falloir sérieusement penser à augmenter les budgets de formation de développement dis donc. A moins que...
votre avatar
C'est pas de la formation de développement qu'il faut, c'est de la sensibilisation. Mes collègues sont compétents. Mais j'entends beaucoup trop souvent comme réponse à mon "Tu n'as pas géré ce cas limite, ça va planter" : "C'est pas grave, c'est que le fichier est corrompu"
votre avatar
Déjà s'il gèrent certains cas dégradés et pas uniquement le cas nominal (et encore) ce serait déjà pas mal.
votre avatar
Ce communiqué est-il validé par les dirigeants des pays auxquels appartiennent ces agences ?
votre avatar
C'est plutôt, les agences qui alertent afin de faire augmenter leurs budgets respectifs...
votre avatar
Cette déclaration commune pourrait tout de même indiquer une certaine inflexion de l’isolationnisme états-unien en la matière.
Peut-être que les USA commencent à se dire que s'ils se mettent le monde entier à dos, ils risquent de ne pas en sortir gagnants...
votre avatar
Je pense que les EUA ont déjà le reste du monde à dos, soit le Sud global même si ce terme est réducteur mais ca fait quand pas loin de 6 Mds d'individus si on considére que l'Occident est uni derrière les EUA..
votre avatar
Disons qu'avant ils avaient une relativement bonne image, même quand ils apportaient la "démocratie" à un pays. Ils avaient au moins le bénéfice du doute.
Maintenant, je doute que ça soit le cas, même du côté de leurs alliés.
votre avatar
Le doute ne bénéficie plus au doubt? ;)
Oui c'est un fait que devrait prendre en compte les pays occidentaux non alignés! ;)