Halcyon : générer des images sans préentraîner un grand modèle de langage
Des chercheurs de Stanford et de Radical Numerics explorent une nouvelle approche de génération d’images à partir de descriptions textuelles avec Halcyon, une famille de modèles multimodaux entraînés directement sur des associations entre images et textes.
La plupart des générateurs modernes s’appuient sur de coûteux modèles de langage préentraînés. Les chercheurs demandent si ce préentraînement massif est réellement indispensable.
Ils ont utilisé un ensemble d’environ 100 millions de paires image-texte. Selon leurs expériences, Halcyon-0.52B obtient un score gFD de 48,0 contre 63,3 pour un modèle de comparaison, avec 18,2 fois moins de calcul consacré au préentraînement. Une version de 1,6 milliard de paramètres présente également des résultats favorables face à une autre architecture.
Ces travaux suggèrent que certaines capacités visuelles peuvent être acquises efficacement sans entraîner préalablement un grand modèle linguistique.
Ces résultats ne prouvent pas que la même méthode serait supérieure pour tous les systèmes de génération d’images. Les comparaisons portent sur des architectures, jeux de données et indicateurs précis.
La publication, diffusée en octobre 2026, est une prépublication non évaluée par les pairs. Des reproductions indépendantes sont indispensables avant d’en généraliser les conclusions.
Sources :
Prépublication scientifique non évaluée par les pairs, arXiv, octobre 2026
Présentation technique officielle du projet Halcyon, Stanford
