« La branche de développement du navigateur Opera déploie le support de l’exécution des LLM localement. »

L’Opera a ajouté un support expérimental pour exécuter localement de grands modèles de langage (LLMs) sur le navigateur Opera One Developer dans le cadre de son programme AI Feature Drop. Exclusif pour l’instant à la version de développement d’Opera One, le principal navigateur internet d’Opera, la mise à jour ajoute 150 LLM différents issus de 50 familles de LLM différentes, y compris LLaMA, Gemma et Mixtral. Auparavant, Opera ne proposait qu’un support pour son propre LLM, Aria, conçu comme un chatbot dans la lignée de Copilot de Microsoft et de ChatGPT d’OpenAI. Cependant, la principale différence entre Aria, Copilot (qui aspire uniquement à fonctionner localement à l’avenir) et des chatbots IA similaires est qu’ils dépendent d’une connexion à internet vers un serveur dédié. Opera dit qu’avec les LLMs locaux intégrés à Opera One Developer, les données restent sur l’ordinateur des utilisateurs et ne nécessitent pas de connexion internet sauf pour télécharger le LLM initialement. Opera a également envisagé un cas d’utilisation potentiel pour sa nouvelle fonctionnalité de LLM local. « Et si le navigateur du futur pouvait s’appuyer sur des solutions d’IA basées sur vos entrées historiques tout en conservant toutes les données sur votre appareil ? » Alors que les amateurs de protection de la vie privée aiment probablement l’idée que leurs données restent sur leur ordinateur et nulle part ailleurs, un LLM basé sur un navigateur se souvenant de tant d’informations pourrait ne pas être aussi attrayant. « C’est tellement avant-gardiste que cela pourrait même planter, » dit Opera dans son article de blog. Bien qu’il s’agisse d’une plaisanterie, cela n’est pas loin de la vérité. « Alors que nous essayons de livrer la version la plus stable possible, les versions de développement sont généralement expérimentales et peuvent en fait être un peu instables, » a déclaré Jan Standal, vice-président d’Opera, au journal The Register.