Nejmenší čtverce: proložit přímku a přiznat, jak nejistá je
Naměří se dvojice (x, y) s rozptylem a hledá se přímka, která jimi prochází „nejlíp“. Nejmenší čtverce minimalizují součet druhých mocnin svislých odchylek.
Proč zrovna čtverce? Ne kvůli pohodlí. Kdyby byl šum gaussovský, je součet čtverců přesně to, co maximalizuje pravděpodobnost naměřených dat — tzv. maximálně věrohodný odhad. Ta volba tedy plyne z předpokladu o šumu, není libovolná. A odtud také plyne, kdy neplatí: u dat s odlehlými hodnotami je gaussovský předpoklad špatný a čtverce dají špatnou odpověď (viz OptiLab).
Výsledek bez chybové úsečky je půlka odpovědi
Tenhle vzorec se v učebnicích často vynechá, a je to škoda — říká totiž rovnou tři věci:
| když | nejistota sklonu |
|---|---|
| šum je menší | klesá úměrně |
| bodů je víc | klesá jako 1/√n |
| rozsah x je širší | klesá úměrně rozsahu |
Třetí řádek je ten užitečný a přehlížený. Rozšířit rozsah měřených x pomůže víc než přidat body doprostřed. Kdo kalibruje snímač na deseti bodech v úzkém rozsahu, dostane mnohem horší sklon než ten, kdo změří pět bodů přes celý rozsah — při poloviční práci.
Je ta chybová úsečka poctivá?
To se dá ověřit a testy v repu to dělají: zopakují celý experiment třitisíckrát a změří, jak moc se ten sklon opravdu rozhází. Předpověď z jediného proložení: 0,00981. Naměřený rozptyl přes tři tisíce opakování: 0,00977. Sedí na 0,4 %.
To je zároveň test, který chytí chybné n − 2 ve jmenovateli zbytkového rozptylu — ta oprava je z téhož důvodu jako n − 1 v kapitole 5, jen o jeden stupeň volnosti dál, protože se fitují dva parametry.
R² a co neříká
Vysoké R² neznamená, že je model správný. Znamená jen, že přímka vysvětlí velkou část rozptylu y. Data zakřivená do oblouku dají R² klidně 0,98 a přímka je přesto špatný model. Jediná spolehlivá kontrola je podívat se na rezidua: mají-li tvar, model je špatný — bez ohledu na to, co říká R².