#
Attention mechanism

ほとんどのTransformerモデルは、アテンション行列が正方形であるという意味で完全なアテンションを使用します。 これは、長いテキストを扱う場合に計算のボトルネックとなることがあります。LongformerやReformerは、より効率的でトレーニングを高速化するためにアテンション行列のスパースバージョンを使用しようとするモデルです。

##
LSH attention

ReformerはLSH（局所的に散在ハッシュ）アテンションを使用します。 ソフトマックス(QK^t)では、行列QK^tの中で（ソフトマックス次元で）最も大きな要素のみが有用な寄与を提供します。 したがって、各クエリqについて、クエリqに近いキーkのみを考慮できます。 qとkが近いかどうかを決定するために、ハッシュ関数が使用されます。 アテンションマスクは変更され、現在のトークンをマスク化します（最初の位置を除く）。 なぜなら、それはクエリとキーが等しい（つまり非常に似ている）クエリとキーを提供するからです。 ハッシュは多少ランダムかもしれないため、実際にはいくつかのハッシュ関数が使用され（n_roundsパラメータで決定されます）、それらが平均化されます。

##
Local attention

Longformerはローカルアテンションを使用します。 しばしば、ローカルコンテキスト（例：左右の2つのトークンは何ですか？）は、特定のトークンに対して行動を起こすのに十分です。 また、小さなウィンドウを持つアテンションレイヤーを積み重ねることで、最後のレイヤーはウィンドウ内のトークンだけでなく、ウィンドウ内のトークンを超えて受容野を持つようになり、文全体の表現を構築できます。

一部の事前選択された入力トークンにはグローバルアテンションも与えられます。 これらの少数のトークンに対して、アテンション行列はすべてのトークンにアクセスでき、このプロセスは対称的です。 他のすべてのトークンは、これらの特定のトークンにアクセスできます（ローカルウィンドウ内のトークンに加えて）。 これは、論文の図2dに示されており、以下はサンプルのアテンションマスクです：

##
Other tricks

###
Axial positional encodings

Reformerは軸方向の位置エンコーディングを使用しています。伝統的なトランスフォーマーモデルでは、位置エンコーディングEはサイズが l l l × d d d の行列で、l l l はシーケンスの長さ、d d d は隠れ状態の次元です。非常に長いテキストを扱う場合、この行列は非常に大きく、GPU上で大量のスペースを占有します。これを緩和するために、軸方向の位置エンコーディングは、この大きな行列Eを2つの小さな行列E1とE2に分解します。それぞれの行列はサイズ l 1×d 1 l_{1} \times d_{1}l 1​×d 1​ および l 2×d 2 l_{2} \times d_{2}l 2​×d 2​ を持ち、 l 1×l 2=l l_{1} \times l_{2} = l l 1​×l 2​=l および d 1+d 2=d d_{1} + d_{2} = d d 1​+d 2​=d という条件を満たします（長さの積を考えると、これがはるかに小さくなります）。行列E内の時刻 j j j の埋め込みは、E1内の時刻 j%l 1 j \% l1 j%l 1 の埋め込みとE2内の時刻 j//l 1 j // l1 j//l 1 の埋め込みを連結することによって得られます。