Un contributeur de Reddit a découvert les instructions intégrées dans la version bêta pour développeurs de macOS 15.1 d'Apple, offrant « un rare aperçu » de ce qui sous-tend les fonctions d'intelligence artificielle d'Apple, écrit MacRumors.
On y découvre en effet des instructions qui visent à empêcher l'intelligence artificielle de générer de fausses informations, d'éviter les hallucinations (ou confabulations), et de garantir que le contenu produit est approprié et convivial.
Pour la fonction Smart Reply, l'IA est programmée pour identifier les questions pertinentes dans un courrier électronique et générer des réponses concises. L'invite de commande (prompt) précise que « la réponse à ces questions sera sélectionnée par le destinataire, ce qui permettra de réduire les hallucinations lors de la rédaction de la réponse ».
La fonction Memories d'Apple Photos, qui crée des histoires vidéo à partir des photos de l'utilisateur, est de son côté « chargée de générer des histoires positives et exemptes de tout contenu controversé ou préjudiciable », résume MacRumors.
Son prompt est, en effet, encore plus explicite : « N'écrivez pas d'histoire religieuse, politique, nuisible, violente, sexuelle, immonde ou négative, triste ou provocante de quelque manière que ce soit. »
Les outils d'IA d'Apple comprennent également une directive générale visant à éviter les hallucinations. Le prompt de la fonction Outils d'écriture précise ainsi : « N'hallucinez pas. N'inventez pas d'informations factuelles ». Reste encore à savoir comment une IA pourrait s'empêcher de confabuler, ou de générer des informations qui ne seraient pas « factuelles ».
Apple Intelligence devrait commencer à se déployer officiellement dans iOS 18.1, iPadOS 18.1 et macOS Sequoia 15.1 dans le courant de l'année, et de nouvelles fonctionnalités devraient être intégrées aux mises à jour jusqu'en 2025, rappelle MacRumors.
![[Édito] Apple entre greenwashing et renouvellement à marche forcée](https://next.ink/wp-content/uploads/2024/09/Apple_greenwashing-510x247.webp "[Édito] Apple entre greenwashing et renouvellement à marche forcée")
Commentaires (15)
#1
C'est tellement ça. Selon les référentiels utilisés pour répondre, l'IA peut générer une réponse totalement fausse ou biaisée.
Historique des modifications :
Posté le 07/08/2024 à 15h26
[quote]Reste encore à savoir comment une IA pourrait s'empêcher de confabuler, ou de générer des informations qui ne seraient pas « factuelles ».[/quote]
C'est tellement ça. Selon les référentiels utilisés pour répondre, l'IA peut générer une réponse totalement fausse ou biaisée.
#1.1
Il faut le crier haut et fort, à temps et à contre-temps !
#1.2
"Presse bouton"
Je force un peu le trait ici mais bon...
.
Historique des modifications :
Posté le 07/08/2024 à 20h36
Remarque à l'école, il pouvait être fréquent aussi d'apprendre du "par cœur" , soit du texte ou soit des formules de Maths ou Physique que l'on recrachait ou qu'on appliquait quand on reconnaissait le cas quand et où l'utiliser sans vraiment comprendre la logique derrière...
"Presse bouton"
Je force un peu le trait ici mais bon...
#1.3
#2
#3
Qu'est-ce que ça doit être chiant d'utiliser des produits Apple !
À moins qu'on puisse lui dire d'ignorer ce prompt.
#3.1
#3.2
#3.3
En un mot, "consensuel", hein ! En un mot !
#3.4
#3.5
Monde de merde !
#4
#4.1
Plus sérieusement, ta remarque est des plus pertinente et je me pose la même question maintenant.
#4.2
#5
Puis bon on va y retrouver toute la main-mise de la bienpensance d''Apple sur ce qui est bien ou pas, vu ce que ça donne avec l'AppStore, ça va vendre du rêve (mêmes si toutes les IA sont concernées par ce point). Typiquement pour les histoires "négatives", elles font aussi partie de notre vie. Savoir apporter une pointe de nostalgie à des souvenirs un peu rudes, c'est tout aussi nécessaire pour faire remonter les souvenirs (visualiser un proche décédé 10 ans après par exemple). Mais bon la cancel culture...