Най-малки квадрати

[Гост]

Здравейте. Обръщам се за помощ по задачата за вертикален регрес или както още е известна метод на най-малките квадрати.
Разполагам с данни (извадка от 20 измервания), за които трябва да построя регресионен рационален полином от 4-та степен. За целта, както е известно, необходимо е да се реши матричното уравнение
a = (Xt.X)^-1.Xt.y
Използвам следната библиотека, предлагаща операции за действия с матрици:

http://playground.arduino.cc/Code/MatrixMath

За мен поне библиотеката дава коректни резултати. Проведох тестове, като наблегнах на метода за обръщане на матрици. Операцията X^-1.X=diag(1) работи без грешка.
Проблемът ми е следния. За извадка от 20 измервания, библиотеката дава коректни резултати. Проведох тестове с Excel и Wolfram Mathematica. Коефициентите на полинома съвпадат точно. Когато намаля размера на извадката разликите са на порядъци! Моля, вижте приложените screenshots.
Как е възможно това? Прилагам една и съща програма към еднотипни задачи, но при малки размерности получавам разлики при тестването. Условието броят на точките да е равен на реда на полинома +1 е изпълнено при мен.
Предполагам, че не знам някоя тънкост от теорията. Моля за Вашето мнение по проблема. Предварително благодаря!

Този тест излиза, точките са 20

good.png (354.24 KiB) Прегледано 1334 пъти

Този тест не излиза, точките са 8

bad.png (314.59 KiB) Прегледано 1334 пъти

[Knowledge Greedy]

Без да съм вътре в материята, като чуя "извадки", наострям уши. Теорията е много перспективна, с много доказани приложения и много работа я чака за в бъдеще. Но щом в случая се появяват различни резултати, явно проблемът е в обемите на извадките, а също в настройката на софтуера - при по-малки обеми, грешките се мултиплицират и отклоненията са значителни.
Погледнах внимателно по-малката по обем извадка. Данните в нея ми се струва, че са тотално изместени спрямо данните от по-голямата. Това е! Трябва данните да са равномерно разпределени. Между другото, и графиките на полиномите съвпадат - просто са в различни интервали.