Microsoft

記事 4 件

RLHF / アラインメント期 Meta AI / MetaMicrosoft 2023-07-18

Llama 2 公開 — Meta が大規模 LLM をオープンウェイトで提供

Meta が Microsoft と提携して Llama 2 (7B/13B/70B) をオープンウェイトで公開。Azure 経由でもデプロイ可能で、商用利用も条件付きで許可。クローズドモデルとオープンモデルの二極化の象徴的リリース。

ソース: LLaMA

RLHF / アラインメント期 MicrosoftOpenAI 2023-02-07

Microsoft Bing Chat 発表(後の Copilot) — GPT-4 を組込

Microsoft が GPT-4 を統合した検索体験 Bing Chat(後の Microsoft Copilot)を発表。初期に表れた人格『Sydney』が物議を醸し、LLM アライメントの難しさを世間に強く印象づけた。

ソース: Microsoft Copilot

GPT-3 期 MicrosoftOpenAI 2021-06-29

GitHub Copilot テクニカルプレビュー公開

GitHub と OpenAI が共同で開発したコード補完アシスタント GitHub Copilot のテクニカルプレビューを公開。OpenAI Codex (GPT-3 派生) を基盤に、Visual Studio Code 等の IDE 内で人間のペアプログラマのように補完を提示。コーディング AI の社会実装の起点。

ソース: GitHub Copilot

Transformer 以前 Microsoft学術機関(大学・研究機関) 2015-12-10

ResNet 論文公開 — 残差接続で超深層 NN を実現(He ら)

Microsoft Research Asia の He Kaiming らが Residual Network (ResNet) を提案。skip connection で 152 層の超深層 CNN を学習可能にし、ImageNet で人間超え精度を達成。以後の深層 NN 設計の標準に。

ソース: Residual neural network