věta o univerzální aproximaci uvádí, že dopředná neuronová síť s jedinou skrytou vrstvou obsahující konečný počet neuronů může aproximovat jakoukoli spojitou funkci (za předpokladu, že jsou splněny některé předpoklady o aktivační funkci).
Existují nějaké jiný model strojového učení (kromě jakéhokoli modelu neuronové sítě), u kterého bylo prokázáno , že je univerzální aproximátor funkcí (a který je potenciálně srovnatelný s neuronovými sítěmi, pokud jde o užitečnost a použitelnost)? Pokud ano, můžete uvést odkaz na výzkumnou práci nebo knihu, která ukazuje důkaz?
Podobné otázky byly v minulosti kladeny i na jiných místech (např. zde , zde a zde ), ale neposkytují odkazy k papírům nebo knihám, které ukazují důkazy.
Komentáře
- Třetí odkaz obsahuje odkaz na dvě knihy. cstheory.stackexchange.com/q/7894/34637
- není to ML algo, ale Fourierovým rozkladem lze dosáhnout " univerzální aproximace " ….
odpověď
Podporovat vektorové stroje
V příspěvku Poznámka k univerzální aproximační schopnosti podpůrných vektorových strojů (2002) B. Hammer a K. Gersmann zkoumají možnosti aproximace univerzálních funkcí SVM. Autoři konkrétněji ukazují, že SVM se standardními jádry (včetně gaussovských, polynomiálních a několika tečkových produktových jader) mohou aproximovat jakoukoli měřitelnou nebo spojitou funkci až na požadovanou přesnost. Proto jsou SVM aproximátory univerzálních funkcí.
Polynomy
Je také všeobecně známo, že jakoukoli spojitou funkci můžeme aproximovat pomocí polynomů (viz Stone-Weierstrassova věta ). Pomocí polynomiální regrese můžete k označeným datům přizpůsobit polynomy.