Titans (architecture)
Architecture LLM Google DeepMind avec mémoire long-terme. Mémorise préférentiellement les passages à haute Surprise.
Lire →Cadre théorique de Google DeepMind qui généralise les architectures de mémoire long-terme des LLMs. Il décrit la mémorisation sélective des informations à haute Surprise Metric.
Cadre théorique de Google DeepMind généralisant les architectures de mémoire long-terme pour les LLMs. Introduit avec Titans. Décrit comment les modèles mémorisent sélectivement les informations à haute Surprise Metric pendant l'inférence.
MIRAS étend Titans au traitement de contenus longs à plusieurs résolutions : un même texte est encodé aux niveaux document, section, passage et phrase, et chaque niveau est matché indépendamment contre l'intention d'une requête. Le retrieval devient plus fin qu'un matching de page entière.
C'est le fondement architectural du Passage Ranking : chaque H2 doit porter un vecteur sémantique distinct, et au moins un H2 de la page doit apporter un élément introuvable ailleurs. Le grounding se calcule sur le segment le plus pertinent plutôt que sur la moyenne diluée du document : une page avec un seul H2 très aligné peut remonter même si le reste est moyen.
Architecture LLM Google DeepMind avec mémoire long-terme. Mémorise préférentiellement les passages à haute Surprise.
Lire →La nouveauté informationnelle d'un passage selon Titans/MIRAS. Un contenu prévisible n'est pas mémorisé par le LLM.
Lire →Phase 2 de la Triade SERP : Google score chaque passage de 150-200 mots individuellement.
Lire →Score de similarité cosinus entre une requête et un passage de contenu : la mesure clé pour passer dans les AI Overviews.
Lire →Je vous prépare un pré-audit de votre site et l'on en discute durant notre visio.