WikiGEO & IA

BERT

Modèle de compréhension du langage déployé par Google en 2019. Son analyse bidirectionnelle du contexte a rendu le keyword stuffing obsolète et fonde le Passage Ranking actuel.

Définition

Bidirectional Encoder Representations from Transformers. Modèle de compréhension du langage déployé par Google en 2019. Analyse le contexte bidirectionnel des mots d'une requête, ce qui a rendu le keyword stuffing obsolète. Fondation technique du Passage Ranking actuel.

BERT lit chaque mot avec son contexte, dans les deux sens

Déployé par Google en octobre 2019, BERT est la première intégration majeure de deep learning dans la compréhension des requêtes. Son apport : le contexte bidirectionnel, chaque mot lu avec ce qui le précède et ce qui le suit. Les prépositions changent enfin le sens : « vol Paris pour Londres » et « vol Paris de Londres » ne donnent plus les mêmes résultats. Environ 10 % des requêtes en anglais étaient affectées au lancement ; le modèle est toujours actif en 2026.

Il a rendu le keyword stuffing obsolète

BERT a rendu le keyword stuffing obsolète : Google comprend l'intention, pas seulement les mots. Il fonde l'évaluation par passage (le Passage Ranking évalue des blocs, pas des pages) et précède MUM puis les architectures à mémoire comme Titans.

Concepts liés à BERT

Nos articles sur le sujet

Parlons de votre projet.

Je vous prépare un pré-audit de votre site et l'on en discute durant notre visio.