DEEPPOINT

Transformer

要点

今のAIの土台になっている、文章の意味を理解するための仕組み。

定義

Transformerとは

Transformerは、現在の生成AIやLLMの土台になっているAIの構造の一つです。文章を読む際に、離れた単語どうしの関係までまとめて把握できる点が特徴です。たとえば「それ」が何を指すかを、前の文全体をふまえて判断します。従来は文章を前から順番に処理していましたが、Transformerは全体を同時に扱えるため、学習を効率よく進められます。2017年にGoogleの研究者が発表しました。ChatGPTの「GPT」のTもTransformerを指しています。

関連するデータ

ディープテックDBと連動

ディープテックDBでは、この用語に近い分野「AI」のスタートアップを186社収録しています。AIの分野ページへ

AIの記事一覧で、この領域の最新の記事を読めます。

同じカテゴリの用語

用語集の一覧へ戻る