GPT-3 期

GPT-3 / Codex を中心に「規模化が機能するか」が検証された期間。API 商用化の幕開け。

期間: 2020-06-11 〜 2022-01-27

Era Transformer 以前 Transformer 期 GPT-3 期 RLHF / アラインメント期マルチモーダル期推論モデル期エージェント期ポスト・エージェント期（仮）

記事 3 件

GPT-3 期 MicrosoftOpenAI 2021-06-29

GitHub Copilot テクニカルプレビュー公開

GitHub と OpenAI が共同で開発したコード補完アシスタント GitHub Copilot のテクニカルプレビューを公開。OpenAI Codex (GPT-3 派生) を基盤に、Visual Studio Code 等の IDE 内で人間のペアプログラマのように補完を提示。コーディング AI の社会実装の起点。

ソース: GitHub Copilot

GPT-3 期 OpenAI 2021-01-05

DALL·E と CLIP を OpenAI が同日公開 — 画像とテキストの結合

OpenAI が同日に DALL·E（テキストから画像生成）と CLIP（テキスト・画像の埋め込み統一）を発表。マルチモーダル基盤の幕開けとして、その後の Stable Diffusion / Midjourney / Sora 等の前史となる。

ソース: DALL-E

GPT-3 期 OpenAI 2020-06-11

GPT-3 API ベータ公開

175B パラメータの GPT-3 が API ベータとして公開。few-shot in-context learning の能力が実証され、API ベースの商用 LLM 利用が幕を開けた。

ソース: GPT-3