普遍近似定理は、フィードフォワードニューラルネットワークは、任意の連続関数を近似できます（活性化関数に関するいくつかの仮定が満たされている場合）。
何かありますかがであることがユニバーサルであることが証明されている他の機械学習モデル（ニューラルネットワークモデルを除く） >関数近似器（そしてそれは有用性と適用性の点でニューラルネットワークに潜在的に匹敵します）？はいの場合、証拠を示す研究論文や本へのリンクを提供できますか？
過去に他の場所でも同様の質問がありました（例：ここ、ここ、ここ）ですが、リンクは提供されていません証明を示す論文や本へ。
コメント
- 3番目のリンクには2冊の本へのリンクがあります。 cstheory.stackexchange.com/q/7894/34637
- MLアルゴリズムではありませんが、フーリエ分解により"普遍近似" ….
回答
サポートベクターマシン
論文サポートベクターマシンの普遍近似能力に関する注記（2002）B。 HammerとK.Gersmannは、SVMの普遍関数近似機能を調査します。より具体的には、著者は、標準カーネル（ガウス、多項式、およびいくつかの内積カーネルを含む）を備えたSVMが、任意の測定可能または連続関数を任意の精度まで近似できることを示しています。したがって、SVMは普遍関数近似器です。
多項式
任意の連続関数を多項式で近似できることも広く知られています（ Stone-Weierstrassの定理）。 多項式回帰を使用して、ラベル付けされたデータに多項式を適合させることができます。