UMAPとは

UMAPは、高次元のデータセットを低次元の空間（通常は2次元または3次元）に非線形的に圧縮（次元削減）し、同時に元の高次元空間におけるデータの局所的および大域的な構造を可能な限り維持するように設計された、機械学習アルゴリズムのことです。

UMAPの概要と次元削減における位置づけ

UMAP（Uniform Manifold Approximation and Projection for Dimension Reduction、多様体近似と射影による次元削減）は、2018年に発表された比較的新しい次元削減手法です。主に、データ分析における可視化や、機械学習の前処理として利用されます。

高次元データは、人間が直感的に理解することが困難であり、計算負荷も高くなります。次元削減の目的は、この問題に対処することですが、特にデータが非線形な「多様体（Manifold）」構造を持っている場合、従来の線形的な手法（例：PCA）ではその構造を保持することができませんでした。

UMAPは、既存の非線形次元削減手法であるt-SNEと同様に、データの局所的な構造（近傍のデータ点同士の関係）の保持に優れていますが、t-SNEよりもいくつかの重要な点で優位性を持っています。

主な目的は、高次元データの潜在的な幾何学的構造を、低次元の視覚化可能な空間に忠実に投影することであり、特に複雑なデータセット（例：遺伝子発現データ、大規模な画像特徴ベクトル）の解釈を容易にすることです。

UMAPの動作原理：トポロジー（位相幾何学）に基づくアプローチ

UMAPの動作原理は、代数的トポロジー（位相幾何学）という数学分野に基づいています。これは、データが何らかの低次元の多様体上に分布しているという仮定に立脚しています。

UMAPのアルゴリズムは、主に以下の2つのステップで構成されます。

1. 高次元における多様体近似（グラフの構築）

• 局所的な構造の定義: UMAPは、まず高次元空間内のデータセット X 上で、非対称な加重付きグラフを構築することで、データのトポロジー（位相構造）を近似します。
• 距離の正規化: データの密度が異なる領域でも、近傍関係が同等に扱われるように、距離を正規化します。これは、各データ点 xi​ のk番目に近い近傍との距離 ρi​ と、その近傍の距離 σi​ を用いて行われます。この距離の定義により、疎な領域（データの少ない領域）のデータ点も、密な領域（データの多い領域）と同様に近傍関係を定義でき、局所的な構造を効果的に捉えます。
• グラフの構築: 各エッジの重み（接続の強さ）は、データ点間の類似度（確率）を表します。

2. 低次元への射影と最適化

• 低次元グラフの構築: m 次元（通常 m=2 または 3）の空間にデータ点をランダムに配置し、同様のグラフを構築します。
• 損失関数の最小化:
  • 高次元グラフと低次元グラフの間で、対応するエッジの重み（類似度）が可能な限り一致するように、低次元埋め込みを最適化します。
  • UMAPは、クロスエントロピーに類似した損失関数を使用して、高次元と低次元のグラフの分布が近くなるようにデータ点（埋め込み）を調整します。

この最適化プロセスにより、UMAPはデータの局所的な塊（クラスター）を維持しつつ、クラスター間の大域的な関係も保持した埋め込みを生成します。

UMAPとt-SNEとの比較優位性

UMAPはt-SNEの課題を克服するために設計されており、多くの実用的な場面で優位性を示します。

項目	UMAP	t-SNE
計算速度	非常に高速。大規模データセット（数百万点）にも適用可能。	非常に低速。大規模データセットでは実用的ではない。
大域的構造	より適切に保持する傾向がある（クラスター間の距離や配置）。	主に局所的な構造の保持に重点が置かれ、大域的な構造は信頼できないことが多い。
理論的基盤	代数的トポロジーに基づく、明確で体系的な数学的基盤を持つ。	経験的な確率分布の最小化に基づく。
パラメータ設定	パラメータに対する感度が低く、初期値への依存も少ない。	パラメータ（特にperplexity）に対する感度が高く、結果が大きく変動する。

UMAPの優位性により、特にインタラクティブなデータ可視化や、大規模な特徴量空間の低次元化といった分野で、t-SNEからの移行が進んでいます。

関連用語

お問い合わせ

システム開発・アプリ開発に関するご相談がございましたら、APPSWINGBYまでお気軽にご連絡ください。