teorema de aproximare universală afirmă că o rețeaua neuronală feed-forward cu un singur strat ascuns care conține un număr finit de neuroni poate aproxima orice funcție continuă (cu condiția să fie îndeplinite unele ipoteze privind funcția de activare).
Există alt model de învățare automată (în afară de orice model de rețea neuronală) care a fost dovedit ca fiind un universal aproximator de funcții (și care este potențial comparabil cu rețelele neuronale, în ceea ce privește utilitatea și aplicabilitatea)? Dacă da, puteți furniza un link către o lucrare de cercetare sau carte care să arate dovada?
În trecut au fost adresate întrebări similare în alte locuri (de ex., aici , aici și aici ), dar nu furnizează linkuri la hârtii sau cărți care arată dovezile.
Comentarii
- Al treilea link are un link două cărți. cstheory.stackexchange.com/q/7894/34637
- nu este ceva ML, dar descompunerea Fourier poate realiza " aproximare universală " ….
Răspuns
Mașini vectoriale de suport
În hârtie O notă privind capacitatea de aproximare universală a mașinilor vectoriale de suport (2002) B. Hammer și K. Gersmann investighează capacitățile universale de aproximare a funcțiilor SVM-urilor. Mai specific, autorii arată că SVM-urile cu miezuri standard (inclusiv miezurile Gaussian, polinomiale și cu mai multe puncte) pot aproxima orice funcție măsurabilă sau continuă până la orice precizie dorită. Prin urmare, SVM-urile sunt aproximatoare de funcții universale.
Polinomii
Este, de asemenea, cunoscut faptul că putem aproxima orice funcție continuă cu polinoame (vezi Teorema Stone-Weierstrass ). Puteți utiliza regresie polinomială pentru a potrivi polinomii la datele etichetate.