IBM expérimente LLMON pour séparer les consignes des données dans Granite
Le 12 novembre 2026, l’équipe IBM Granite, aux États-Unis, a publié deux versions expérimentales, Granite 4.1 3B et 8B LLMON Preview. Disponibles sur Hugging Face sous licence Apache 2.0, elles testent une autre façon de présenter les consignes et les documents à un modèle de langage.
L’idée : distinguer explicitement ce qui doit être exécuté de ce qui doit seulement être lu. LLMON associe des balises réservées aux instructions, données et contraintes, puis indique leurs relations. Cette organisation vise notamment les injections indirectes : des ordres malveillants cachés dans un document ou une réponse d’outil consultés par un assistant.
IBM rapporte une meilleure résistance sur plusieurs bancs d’essai d’injections statiques, avec des capacités générales proches de celles de ses modèles conventionnels. Ces résultats proviennent toutefois de l’équipe conceptrice, et ne constituent pas une validation indépendante ni une protection universelle. Les attaques adaptatives sur plusieurs échanges restent un chantier annoncé.
La fiche du modèle précise que cette séparation est un comportement appris, pas une garantie imposée. Elle ne doit donc pas devenir l’unique défense d’un agent accédant à des systèmes sensibles. Cette diffusion expérimentale permet surtout de tester une piste de sécurité concrète, sans la présenter comme un produit prêt pour tous les usages.
Sources :
