BERT 公開 — 双方向 Transformer による NLU 革命

Transformer 期 Google DeepMind / Google model:bert 新モデル / 既存モデル系列の新版リリース（GPT-4o / Claude 4 等。周辺アプリや API 化のみは product-launch、性能向上は capability-update）学術論文・arXiv・研究発表（評価指標の設計論なら evaluation も検討）テキスト（自然言語）

2018-10-11 · BERT (language model) 歴史アーカイブ

Devlin ら（Google AI Language）が BERT を発表。Masked Language Model + Next Sentence Prediction による双方向事前学習で GLUE / SQuAD などの NLU ベンチマークを軒並み更新。

ソース

BERT (language model)