WikiGEO & IA
GEO & IA

Titans (architecture)

Architecture LLM Google DeepMind avec mémoire long-terme. Mémorise préférentiellement les passages à haute Surprise.

Définition

Architecture de LLM de Google DeepMind combinant attention court-terme et mémoire neuronale long-terme. Peut gérer des contextes de plus de 2 millions de tokens. Les contenus à haute Surprise Metric sont préférentiellement mémorisés lors de l'inférence.

Parlons de votre projet.

Je vous prépare un pré-audit de votre site et l'on en discute durant notre visio.