DeepMind a découvert que les modèles de langage larges de l’IA peuvent optimiser leurs propres invitations.

Quand les gens programment de nouveaux modèles d’apprentissage profond basés sur l’IA – ceux qui peuvent se concentrer sur les bonnes caractéristiques des données par eux-mêmes -, la vaste majorité dépend des algorithmes d’optimisation, ou «optimiseurs», pour s’assurer que les modèles ont un taux d’exactitude suffisamment élevé. Mais l’un des optimiseurs les plus couramment utilisés – les optimiseurs basés sur la dérivée – rencontre des difficultés lorsqu’il s’agit de gérer des applications du monde réel. Dans un nouvel article, des chercheurs de DeepMind proposent une nouvelle approche: l’optimisation par PROmpting (OPRO), une méthode qui utilise des modèles de langage larges basés sur l’IA (LLM) comme optimiseurs. L’aspect unique de cette approche est que la tâche d’optimisation est définie en langage naturel plutôt qu’à travers des définitions mathématiques formelles. Les chercheurs écrivent: «Au lieu de définir formellement le problème d’optimisation et de dériver l’étape de mise à jour avec un solveur programmé, nous décrivons le problème d’optimisation en langage naturel, puis nous instructons le LLM pour qu’il génère de nouvelles solutions de manière itérative en fonction de la description du problème et des solutions précédemment trouvées.  » La technique est hautement adaptable. En modifiant simplement la description du problème ou en ajoutant des instructions spécifiques, le LLM peut être guidé pour résoudre une grande variété de problèmes. Les chercheurs ont constaté que, sur des problèmes d’optimisation de petite échelle, les LLM peuvent générer des solutions efficaces uniquement par prompting, parfois en égalant ou en surpassant les performances des algorithmes heuristiques conçus par des experts. Cependant, le véritable potentiel de l’OPRO réside dans sa capacité à optimiser les invitations LLM pour obtenir une précision maximale des modèles.