WOWWW - Nouvelles

Microsoft vient de lancer une nouvelle intelligence artificielle, en version miniaturisée. Celle-ci s'appelle Phi-3 Mini, et compte seulement 3,8 milliards de paramètres. Une broutille par rapport à GPT-4 d'OpenAI et ses 1 700 milliards de paramètres, ou même le nouveau Llama 3 de Meta, proposé dans sa version standard de 70 milliards de paramètres, ou une version réduite à 8 milliards de paramètres.

Selon Eric Boyd, vice-président de la plateforme Azure AI de Microsoft, Phi-3 Mini est aussi capable que des grands modèles de langage (LLM) comme GPT-3.5. Pour rappel, GPT-3.5 est le modèle actuellement utilisé dans la version gratuite de ChatGPT et comporte 175 milliards de paramètres.
 

Un petit modèle de langage (SLM) offre certains avantages, comme d'être moins coûteux à faire fonctionner et de nécessiter un matériel beaucoup moins puissant. Phi-3 Mini a été conçu pour pouvoir être lancé directement sur un smartphone ou un ordinateur portable, sans être connecté au Web et sans avoir besoin du cloud. Toutefois, l'IA aura une connaissance générale moins étendue que les grands modèles comme GPT-4. Phi-3 Mini pourra notamment intéresser les entreprises qui souhaitent créer des chatbots ou autres applications, avec une IA entraînée sur leurs données internes.

Microsoft a indiqué que ce modèle a été entraîné à partir de contenus générés par un LLM. En s'inspirant de la manière dont les enfants apprennent, Microsoft a pris une liste d'environ 3 000 mots et demandé à une autre IA de créer des livres pour enfants, qui ont servi à entraîner Phi-3 Mini. Cette technique est assez controversée, certains n'hésitant pas à parler de consanguinité numérique. Cela pourrait créer un cercle vicieux où à force de copier les unes sur les autres, les IA perdront en qualité.

Cette nouvelle IA est disponible sur Azure, Hugging Face et Ollama. Microsoft compte également publier deux autres versions, Phi-3 Small et Phi-3 Medium, avec 7 et 14 milliards de paramètres respectivement.