yleisen approksimaation lauseessa todetaan, että eteenpäin suuntautuva hermoverkko , jossa on yksi piilotettu kerros, joka sisältää rajallisen määrän hermosoluja, voi arvioida minkä tahansa jatkuvan toiminnon (edellyttäen, että jotkut aktivointitoiminnon oletukset täyttyvät). muu koneoppimismalli (lukuun ottamatta mitään hermoverkkomallia), joka on osoittautunut universaaliksi funktion approksimaattori (ja mikä on mahdollisesti hyödyllinen ja sovellettavissa verrannollinen hermoverkkoihin)? Jos kyllä, voitko antaa linkin tutkimustyöhön tai kirjaan, joka näyttää todisteet?
Samanlaisia kysymyksiä on aiemmin esitetty muissa paikoissa (esim. täällä , täällä ja täällä ), mutta ne eivät tarjoa linkkejä papereihin tai kirjoihin, joissa näytetään todisteet.
Kommentit
- Kolmannessa linkissä on linkki muutamaan kirjaan. cstheory.stackexchange.com/q/7894/34637
- ei ML-algo, mutta Fourier-hajoaminen voi saavuttaa " yleinen approksimaatio " ….
vastaus
Tukivektorikoneet
Asiakirjassa Huomautus tukivektorikoneiden yleisestä lähentämiskyvystä (2002) B. Hammer ja K. Tarkemmin sanottuna kirjoittajat osoittavat, että SVM: t, joissa on vakioydin (mukaan lukien Gaussin, polynomin ja useita pisteitä sisältäviä ytimiä), voivat arvioida minkä tahansa mitattavan tai jatkuvan toiminnon haluttuun tarkkuuteen. Siksi SVM: t ovat universaaleja funktion approksimaattoreita.
Polynomit
On myös yleisesti tiedossa, että voimme arvioida minkä tahansa jatkuvan funktion polynomeilla (katso Stone-Weierstrass-lause ). Voit käyttää polynomiregressiota polynomien sovittamiseksi merkittyihin tietoihin.