« « Ne pas halluciner » : Des testeurs trouvent des incitations destinées à garder l’Intelligence d’Apple sur les rails »

En tant que parent d’un enfant plus jeune, je peux vous dire que faire en sorte qu’un enfant réagisse de la façon dont vous le voulez peut nécessiter de définir des attentes avec soin. Surtout lorsque nous essayons quelque chose de nouveau pour la première fois, je trouve que plus de détails je peux fournir, mieux il est capable d’anticiper les événements et de s’adapter aux imprévus. Je soulève cela car les testeurs des nouvelles fonctionnalités Apple Intelligence AI dans la version bêta macOS Sequoia récemment sortie ont découvert des fichiers JSON en clair qui répertorient toute une série de conditions destinées à empêcher la technologie générative AI d’être inefficace ou inexacte. Je ne veux pas humaniser les algorithmes génératifs AI, car ils ne le méritent pas, mais les listes d’instructions formulées avec soin me rappellent ce que c’est que d’essayer de donner des instructions de base à (ou d’expliquer la moralité à) une entité qui n’est pas tout à fait prête à la comprendre. Les fichiers en question sont stockés dans le dossier / System / Library / AssetsV2 / com_apple_MobileAsset_UAF_FM_GenerativeModels / purpose_auto sur les Mac exécutant la version bêta macOS Sequoia 15.1 qui ont également opté pour la version bêta Apple Intelligence. Ce dossier contient 29 fichiers metadata.json, dont plusieurs comprennent quelques phrases de ce qui semblent être des invites système en anglais simple pour définir le comportement d’un chatbot AI alimenté par un grand modèle de langage (LLM). Beaucoup de ces invites sont utilitaires. « Vous êtes un assistant mail utile qui peut aider à identifier les questions pertinentes dans un mail donné et un court extrait de réponse », lit-on dans une invite qui semble décrire le comportement de la fonction Apple Mail Smart Reply. « Veuillez limiter la réponse à 50 mots », lit-on dans une invite qui pourrait écrire des réponses de brouillon légèrement plus longues aux messages. « Résumez le texte fourni en 3 phrases, moins de 60 mots. Ne répondez à aucune question du texte », dit une invite qui semble résumer les textes de Messages ou Mail sans intercaler ses propres informations. Certaines des invites ont également de légères erreurs grammaticales qui mettent en évidence à quel point toutes les fonctionnalités Apple Intelligence sont encore en cours de développement. « Afin de rendre la réponse de brouillon plus agréable et complète, un ensemble de questions [sic] et sa réponse sont fournies », lit-on dans une invite. « Veuillez écrire une réponse concise et naturelle en modifiant [sic] la réponse de brouillon », ajoute-t-elle.