Transformer
読み方は「トランスフォーマー」。意味と使われ方を根拠つきで確認できます。
公式・公的資料で確認
30秒で分かる答え
Transformerは、Attention機構を中心に入力データ内の要素同士の関係を処理するニューラルネットワークのアーキテクチャです。もともとは機械翻訳の研究で提案され、現在の多くの言語モデルやマルチモーダルモデルの基礎になっています。製品名や単独のモデル名ではありません。
Attentionを中心に入力の関係を処理するモデルアーキテクチャ
Transformerの意味・使い方
要点と背景
Attentionを中心に入力の関係を処理するモデルアーキテクチャ
Transformerは、入力の各要素が他の要素とどの程度関係するかをAttentionで計算するニューラルネットワークのアーキテクチャです。原論文「Attention Is All You Need」では、従来の系列変換で中心的だった再帰や畳み込みを使わず、Attentionを中心にエンコーダとデコーダを構成する方法が提案されました。系列内の位置情報を扱うための仕組みや、複数のAttentionを並列に使う構成なども含まれます。Transformerという言葉は、特定の会社の製品や一つの完成済みモデルを指すものではありません。同じアーキテクチャを土台にしても、学習データ、層数、目的、入力形式、学習方法によってモデルの能力や挙動は変わります。現在のLLMとの関係を説明するときは、Transformerが構造上の土台であり、LLMはその構造を使って言語を扱う学習済みモデル、と分けて整理すると混同しにくくなります。
使われる分野・文脈
掲載データの使用場面
確認時の注意
断定を避けるポイント
原論文を根拠に、Attentionを中心に系列の関係を処理するアーキテクチャとして整理した。現在の全モデルが同一構成であるとは断定しない。
関連する用語
同じ分野・使用文脈から探す
根拠資料と確認状況
確認日・出典
公式・公的資料で確認
最終確認2026/8/21
読み方と意味を、
分けて確認。
正式名称、意味、使われる分野を分けて記録しています。