Math
Methode der kleinsten Quadrate
Vergleiche Datenanpassung, Regularisierung und Überanpassung.
Zum Ausprobieren
Ein Polynom mit Householder-QR an 16 verrauschte Stichprobenwerte anpassen. Klicken, um den nächsten Wert vertikal zu verschieben und einen Ausreißer zu erzeugen. Den Trainingsfehler mit dem Fehler gegenüber der bekannten rauschfreien Funktion vergleichen; die Ridge-Regularisierung bestraft nichtkonstante Koeffizienten.
Gleichungen des Moduls
Gleichungen Zielfunktion: minβ ||Aβ−y||² + λ Σⱼ≥₁ βⱼ², Aij = xiʲ Householder-Spiegelungen: A = QR; Rβ = Qᵀy lösen Ridge wird umgesetzt, indem A um √λI-Zeilen erweitert wird Die Trainingsresiduen können schrumpfen, während der Vorhersagefehler gegenüber der Referenz wächst
