x264のカスタムマトリクスについてのメモ

マトリクスとはいえ行列計算をさせるわけではない。DCTの結果である8x8および4x4行列の各成分に対する重み付けのようなもの。
除算で重み付けをするので数字が小さいほどビットが割り振られる。
基本的に2次元DCTでは左上に定数項、右下に最も高次の項の係数がくる。よって量子化マトリクスは普通左上から順に右下に向かって数字が大きくなる。
8x8、4x4ともイントラマクロブロック用と非イントラマクロブロック用のものを個別に設定できる。
4x4はさらにYUVそれぞれについて設定できる。YUVとは輝度(Y)、輝度と青色成分の差(U,Cb)、輝度と赤色成分の差(V,Cr)のこと。
非イントラマクロブロック用のものは効果が確認しづらい。量子化マトリクスの変更による変化よりもそれ以外の要因による変化のほうが大きい。