Les principaux enseignements à tirer de cette étude sont les suivants :
– Le modèle LM Zephyr 3B est un modèle de langue large (LLM) de 3 milliards de paramètres, soit 60 % de moins que les modèles de 7 milliards de paramètres. Il permet une production de sortie précise et réactive sur une variété d’appareils, sans nécessiter de matériel haut de gamme.
– Les poids du modèle peuvent être téléchargés ici.
– Vous trouverez un exemple de notebook permettant d’optimiser la vitesse pour ce modèle ici.
– Ce modèle est mis à disposition sous licence non commerciale qui autorise son utilisation à des fins non commerciales.
