GEO & IA
Surprise score
La nouveauté informationnelle d'un passage selon Titans/MIRAS. Un contenu prévisible n'est pas mémorisé par le LLM.
Lire →Architecture LLM Google DeepMind avec mémoire long-terme. Mémorise préférentiellement les passages à haute Surprise.
Définition
Architecture de LLM de Google DeepMind combinant attention court-terme et mémoire neuronale long-terme. Peut gérer des contextes de plus de 2 millions de tokens. Les contenus à haute Surprise Metric sont préférentiellement mémorisés lors de l'inférence.
Concepts liés
Ce qui complète Titans (architecture).
Les concepts qui s'activent en grappe avec celui-ci. Comprends-les ensemble, jamais isolés.
Articles approfondis
Aller plus loin.
Les contenus du blog qui développent ce concept en stratégie applicable.