universal tilnærmelses sætning siger, at en feed-forward neuralt netværk med et enkelt skjult lag, der indeholder et endeligt antal neuroner, kan tilnærme enhver kontinuerlig funktion (forudsat at nogle antagelser om aktiveringsfunktionen er opfyldt).
Er der nogen anden maskinlæringsmodel (bortset fra enhver neuralt netværksmodel), der er bevist for at være en universal funktionstilnærmelse (og det er potentielt sammenligneligt med neurale netværk med hensyn til anvendelighed og anvendelighed)? Hvis ja, kan du give et link til en forskningsopgave eller bog, der viser beviset?
Lignende spørgsmål er tidligere blevet stillet andre steder (f.eks. her , her og her ), men de indeholder ikke links til papirer eller bøger, der viser bevisene.
Kommentarer
- 3. link har et link to par bøger. cstheory.stackexchange.com/q/7894/34637
- ikke en ML-algo, men Fourier-nedbrydning kan opnå " universel tilnærmelse " ….
Svar
Støttevektormaskiner
I papiret En note om den universelle tilnærmelsesevne for supportvektormaskiner (2002) B. Hammer og K. Gersmann undersøger SVMers universelle funktionstilnærmelsesfunktioner. Mere specifikt viser forfatterne, at SVMer med standardkerner (inklusive Gaussiske, polynomiske og flere dot-produktkerner) kan tilnærme enhver målbar eller kontinuerlig funktion op til den ønskede nøjagtighed. Derfor er SVMer universelle funktionstilnærmere.
Polynomier
Det er også almindeligt kendt, at vi kan tilnærme enhver kontinuerlig funktion med polynomier (se Stone-Weierstrass sætning ). Du kan bruge polynomregression til at tilpasse polynomier til dine mærkede data.