Google annonce Gemma 2, une version à 27 B paramètres de son modèle ouvert, lancée en juin | Dmshaulers

Google annonce Gemma 2, une version à 27 B paramètres de son modèle ouvert, lancée en juin

Mardi, Google a annoncé un certain nombre de nouveaux ajouts à Gemma, sa famille de modèles open (mais pas open source) comparables aux modèles ouverts Meta’s Llama et Mistral, lors de sa conférence annuelle des développeurs Google I/O 2024.

La version qui fait la une des journaux est Gemma 2, la prochaine génération de modèles Gemma à échelle ouverte de Google, qui sera lancée avec un modèle de 27 milliards de paramètres en juin.

PaliGemma est déjà disponible, une variante Gemma pré-entraînée que Google décrit comme « le premier modèle de langage de vision de la famille Gemma » pour le sous-titrage d’images, le marquage d’images et les questions-réponses visuelles.

Jusqu’à présent, les modèles Gemma standard lancés plus tôt cette année n’étaient disponibles qu’en versions à 2 milliards de paramètres et à 7 milliards de paramètres, ce qui fait de ce nouveau modèle de 27 milliards de paramètres un grand pas en avant.

Lors d’un briefing précédant l’annonce de mardi, Josh Woodward, vice-président de Google Labs, a noté que les modèles Gemma avaient été téléchargés plus de “des millions de fois” sur les différents services où ils sont disponibles. Il a souligné que Google a optimisé le modèle de 27 milliards pour qu’il fonctionne sur les GPU de nouvelle génération de Nvidia, un seul hôte Google Cloud TPU et le service géré Vertex AI.

Toutefois, la taille n’a pas d’importance si le modèle n’est pas bon. Google n’a pas encore partagé beaucoup de données sur le Gemma 2, nous devrons donc voir comment il se comporte une fois que les développeurs auront mis la main dessus. “Nous constatons déjà une bonne qualité. Elle surpasse déjà les modèles deux fois plus grands”, a déclaré Woodward.

Nous lançons une newsletter IA ! Inscrivez-vous ici pour commencer à le recevoir dans votre boîte de réception le 5 juin.

En savoir plus sur Google I/O 2024 sur TechCrunch

Leave a Reply

Your email address will not be published. Required fields are marked *