Tlumení: jedno číslo pro směr i délku
Levenberg (1944) a Marquardt (1963) přidali ke Gauss-Newtonovi jediný člen:
To μ dělá tři věci naráz, a proto je metoda tak úspěšná:
- Pro μ > 0 je matice zaručeně pozitivně definitní, takže krok vždycky míří dolů.
- Pro velké μ vyjde h ≈ −g/μ — krátký krok po nejstrmějším spádu. To je dobré daleko od řešení.
- Pro malé μ vyjde Gauss-Newtonův krok. To je dobré blízko řešení.
A hlavně: jedno číslo řídí směr i délku zároveň. Proto tahle metoda žádný line search nepotřebuje.
úhel ke Gauss-Newtonovu kroku: 0,1° · k nejstrmějšímu spádu: 87,6°
Malé μ dá Gauss-Newtonův krok, velké μ krátký krok po gradientu. Mezi tím se plynule přelévá — jedním číslem se řídí SMĚR i DÉLKA naráz.
Jak se μ řídí — a tady se nejčastěji chybuje
Po každém navrženém kroku se porovná, o kolik funkce klesla, s tím, o kolik model slíbil, že klesne. Ten poměr se jmenuje zisk:
Ten jmenovatel je první místo, kde se dá udělat chyba: musí to být pokles předpovězený lineárním modelem, ne skutečný. Druhé místo je aktualizace μ. Není to „půl" ani „dvojnásobek", ale:
Ta kubika není ozdoba. Při ϱ = ½ nechá μ beze změny; při ϱ → 1 ho stáhne na třetinu; a nikdy ho nezmenší víc. Tlumení tak plynule mizí, jak model začíná být důvěryhodný. Zdvojnásobování ν při zamítnutí zase zajistí, že se metoda z beznadějného místa dostane rychle, ne po jednom kroku.
Že KineLab řeší inverzní kinematiku „tlumenými nejmenšími čtverci" znamená právě tohle. Tlumení tam brání tomu, aby kloubové rychlosti utekly do nekonečna, když se rameno blíží singularitě — což je přesně tentýž jev jako singulární Jakobián tady. Tatáž rovnice, jiný slovník.