NSA/CSS Alors que la vague de l’intelligence artificielle prend de plus en plus d’ampleur, la NSA, en partenariat avec d’autres agences des Five Eyes, vient de mettre en ligne ses « lignes directrices pour renforcer la sécurité des systèmes d’IA ».
La National Security Agency (NSA, qui est aussi l'agence en charge de la cybersécurité aux États-Unis, ndlr) vient de publier une fiche d'information sur la cybersécurité (« Cybersecurity Information Sheet », ou CSI) intitulée « Déployer des systèmes d'IA en toute sécurité : Meilleures pratiques pour le déploiement de systèmes d'IA sécurisés et résilients » [.pdf].
Elle est destinée « aux propriétaires de systèmes de sécurité nationale et aux entreprises de la base industrielle de défense qui déploieront et exploiteront des systèmes d'IA conçus et développés par une entité externe ».
Notons que, dans ce document, l'agence parle d'IA pour tout système basé sur du machine learning.
Les Five Eyes parlent d’une même voix
Abonnez-vous pour tout dévorer et ne rien manquer.
Déjà abonné ? Se connecter
Commentaires (8)
#1
Historique des modifications :
Posté le 19/04/2024 à 11h11
Si c'est aussi bien respecté que les Accords de Paris sur le climat on est safe \s
#2
La majorité des emplois aujourd'hui envisagés pour les mécanismes dits d'"intelligence" artificielle générative de texte sont inadaptés.
Une pas trop vieille (2024-04-04) ressource sur le sujet : Intelligence artificielle, bullsh*t, pipotron ? Benjamin Bayart
Historique des modifications :
Posté le 19/04/2024 à 13h27
La meilleure source de sécurité est l'analyse de la pertinence de l'emploi d'un outil vis-à-vis de l'usage envisagé.
La majorité des emplois aujourd'hui envisagés pour les mécanismes dits d'"intelligence" artificielle générative de texte sont inadaptés.
Une pas trop vieille ressource sur le sujet : Intelligence artificielle, bullsh*t, pipotron ? Benjamin Bayart
Posté le 19/04/2024 à 13h28
La meilleure source de sécurité est l'analyse de la pertinence de l'emploi d'un outil vis-à-vis de l'usage envisagé.
La majorité des emplois aujourd'hui envisagés pour les mécanismes dits d'"intelligence" artificielle générative de texte sont inadaptés.
Une pas trop vieille ressource sur le sujet : Intelligence artificielle, bullsh*t, pipotron ? Benjamin Bayart
#2.1
J'y ai passé 2h36 avec un grand plaisir. J'adore ce mec (je le connaissais déjà, hein).
Et j'aime assez ce qu'il dit sur l'IA : statistiques, une façon de fonctionner que l'on ne comprend pas. Les IA génératives, c'est très bien ... pour s'amuser. Etc.
Donc merci.
Historique des modifications :
Posté le 19/04/2024 à 20h32
Ça ne va pas de balancer des liens comme ça ! Moi qui ne regarde/écoute quasiment jamais de vidéos !
J'y ai passé 2h36 avec un grand plaisir. J'adore ce mec.
Et j'aime assez ce qu'il dit sur l'IA : statistiques, une façon de fonctionner que l'on ne comprend pas. Les IA génératives, c'est très bien ... pour s'amuser. Etc.
Donc merci.
#2.2
On apprenait (apprend encore ?) les réseaux de neurones en école à l'époque. Je ne sais à quel point une population non-technologique saisit ce que c'est.
Il évoque les algorithmes génétiques dans son entretien, et j'en suis tombé amoureux quand je les ai découvert, mais je n'ai jamais su réellement en trouver un usage : ça peut permettre effectivement d'optimiser un problème très spécifique, mais je ne manipule jamais dans ma vie de problème qui nécessite une débauche d'énergie pour la recherche d'une solution ultra-spécifique à un cas extrêmement précis…
Et je me demande bien qui a besoin de cela, hors champs spécialisés (et quand bien même ?). Une solution trop spécifique a généralement peu voire pas de valeur. Les minimum/maximum locaux sont d'ailleurs en général à éviter, et donc évités.
Un outil vis-à-vis d'un usage : encore et toujours.
Historique des modifications :
Posté le 20/04/2024 à 03h01
Oui ce sont des processus statistiques, car à la base, ce sont des réseaux de neurones.
On apprenait (apprend encore ?) les réseaux de neurones en école à l'époque. Je ne sais à quel point une population non-technologique saisit ce que c'est.
Il évoque les algorithmes génétiques dans son entretien, et j'en suis tombé amoureux quand je les ai découvert, mais je n'ai jamais su réellement en trouver un usage : ça peut permettre effectivement d'optimiser un problème très spécifique, mais je ne manipule jamais dans ma vie de problème qui nécessite une débauche d'énergie pour la recherche d'une solution ultra-spécifique à un cas extrêmement précis…
Outil Usage : encore et toujours.
Posté le 20/04/2024 à 03h03
Oui ce sont des processus statistiques, car à la base, ce sont des réseaux de neurones.
On apprenait (apprend encore ?) les réseaux de neurones en école à l'époque. Je ne sais à quel point une population non-technologique saisit ce que c'est.
Il évoque les algorithmes génétiques dans son entretien, et j'en suis tombé amoureux quand je les ai découvert, mais je n'ai jamais su réellement en trouver un usage : ça peut permettre effectivement d'optimiser un problème très spécifique, mais je ne manipule jamais dans ma vie de problème qui nécessite une débauche d'énergie pour la recherche d'une solution ultra-spécifique à un cas extrêmement précis…
Et je me demande bien qui a besoin de cela, hors champs spécialisés (et quand bien même ?). Une solution trop spécifique a généralement peu voire pas de valeur. Les minimum/maximum locaux sont d'ailleurs en général à éviter, et donc évités.
Outil Usage : encore et toujours.
Posté le 20/04/2024 à 03h04
Oui ce sont des processus statistiques, car à la base, ce sont des réseaux de neurones.
On apprenait (apprend encore ?) les réseaux de neurones en école à l'époque. Je ne sais à quel point une population non-technologique saisit ce que c'est.
Il évoque les algorithmes génétiques dans son entretien, et j'en suis tombé amoureux quand je les ai découvert, mais je n'ai jamais su réellement en trouver un usage : ça peut permettre effectivement d'optimiser un problème très spécifique, mais je ne manipule jamais dans ma vie de problème qui nécessite une débauche d'énergie pour la recherche d'une solution ultra-spécifique à un cas extrêmement précis…
Et je me demande bien qui a besoin de cela, hors champs spécialisés (et quand bien même ?). Une solution trop spécifique a généralement peu voire pas de valeur. Les minimum/maximum locaux sont d'ailleurs en général à éviter, et donc évités.
Outil \ Usage : encore et toujours.
#2.3
Il est prévu que je l'utilise également pour faire de l'optimisation de production dans le milieu médical
#2.4
#2.5
Et pour être plus précis, c'était en C#.
#3