범용 근사 정리 는 피드 포워드 신경망 은 모든 연속 함수를 근사 할 수 있습니다 (활성화 함수에 대한 몇 가지 가정이 충족되는 경우).
있나요? 신경망 모델과는 별도로 가 범용 함수 근사값 (유용성과 적용 성 측면에서 잠재적으로 신경망과 비교할 수 있음)? 그렇다면 증거를 보여주는 연구 논문이나 책에 대한 링크를 제공 할 수 있습니까?
과거 다른 곳에서도 유사한 질문이 제기되었습니다 (예 : 여기 , 여기 및 여기 ), 링크를 제공하지 않습니다. 증거를 보여주는 논문이나 책에.
댓글
- 세 번째 링크에는 두 권의 책 링크가 있습니다. cstheory.stackexchange.com/q/7894/34637
- ML 알고리즘은 아니지만 푸리에 분해는 범용 근사값 " ….
답변
지원 벡터 머신
서포트 벡터 머신의 범용 근사 기능에 대한 참고 사항 (2002) B. Hammer와 K. Gersmann은 SVM의 범용 함수 근사 기능을 조사합니다. 더 구체적으로, 저자는 표준 커널 (가우스, 다항식 및 여러 내적 커널 포함)이있는 SVM이 원하는 정확도까지 측정 가능하거나 연속적인 함수를 근사 할 수 있음을 보여줍니다. 따라서 SVM은 범용 함수 근사값입니다.
다항식
다항식으로 모든 연속 함수를 근사 할 수 있다는 것도 널리 알려져 있습니다 ( Stone-Weierstrass 정리 ). 다항 회귀 를 사용하여 라벨이 지정된 데이터에 다항식을 맞출 수 있습니다.