Odvození změny proměnných funkce hustoty pravděpodobnosti?
On 9 února, 2021 by adminV knize rozpoznávání vzorů a strojové učení (vzorec 1.27) uvádí
$$ p_y (y) = p_x (x) \ left | \ frac {d x} {d y} \ doprava | = p_x (g (y)) | g „(y) | $$ kde $ x = g (y) $, $ p_x (x) $ je pdf, které odpovídá $ p_y (y) $ s ohledem na změnu proměnné.
Knihy říkají, že je to proto, že pozorování spadající do rozsahu $ (x, x + \ delta x) $ bude pro malé hodnoty $ \ delta x $ transformována do rozsahu $ (y, y + \ delta y) $.
Jak je to formálně odvozeno?
Aktualizace od Dilipa Sarwateho
Výsledek platí pouze v případě, že $ g $ je přísně monotónní funkce zvyšování nebo snižování.
Některé drobné úpravy LV Raova odpověď $$ \ begin {rovnice} P (Y \ le y) = P (g (X) \ le y) = \ begin {cases} P (X \ le g ^ {- 1} (y)) , & \ text {if} \ g \ text {monotónně roste} \\ P (X \ ge g ^ {- 1} (y)), & \ text {if} \ g \ text {monotónně klesá} \ end {cases} \ end {rovnice} $$ Proto pokud $ g $ monotónně roste $$ F_ {Y} (y) = F_ {X} (g ^ {- 1} (y)) $$ $$ f_ {Y} (y) = f_ {X} (g ^ {- 1} (y)) \ cdot \ frac {d} {dy} g ^ {- 1} (y) $$, pokud monotónně klesá $$ F_ {Y} (y) = 1-F_ {X} (g ^ {- 1} (y)) $$ $$ f_ { Y} (y) = – f_ {X} (g ^ {- 1} (y)) \ cdot \ frac {d} {dy} g ^ {- 1} (y) $$ $$ \ tedy f_ {Y } (y) = f_ {X} (g ^ {- 1} (y)) \ cdot \ left | \ frac {d} {dy} g ^ {- 1} (y) \ right | $$
Komentáře
- Výsledek bude platit pouze v případě, že $ g $ je přísně monotónní funkce zvyšování nebo snižování. Nakreslete graf $ g $ a pomocí logického pole základní myšlenka definice derivátu (nikoli formální definice s epsilon a delta). Na tomto webu je také odpověď od @whuber, která vysvětluje podrobnosti ; to znamená, toto by mělo být uzavřeno jako duplikát.
- Vysvětlení vaší knihy ' připomíná vysvětlení, které jsem nabídl na stats.stackexchange.com/a/14490/919 . Také jsem zveřejnil obecnou algebraickou metodu na stats.stackexchange.com/a/101298/919 a geometrické vysvětlení na stats.stackexchange.com/a/4223/919 .
- @DilipSarwate děkuji za vaše vysvětlení, myslím, že rozumím intuici, ale ' m více zajímá, jak to lze odvodit pomocí stávajících pravidel a vět 🙂
Odpověď
Předpokládejme, že $ X $ je spojitá náhodná proměnná s pdf
f (x). Pokud definujeme $ Y = g (X) $, kde g () je monotónní funkce, pak pdf
z $ Y $ se získá takto: \ begin {eqnarray *} P (Y \ le y) & = & P (g (X) \ le y) \\ & = & P (X \ le g ^ {- 1} (y)) \\ nebo \; \; F_ {Y} (y) & = & F_ {X} (g ^ {- 1} (y)), \ quad \ mbox {podle definice CDF} \\ \ end {eqnarray *} Rozlišením CDF na obou stranách wrt $ y $, dostaneme pdf $ Y $. Funkce g () může být monotónně rostoucí nebo monotónně klesající. Pokud se funkce g () monotónně zvyšuje, pak je pdf $ Y $ dáno \ begin {rovnice *} f_ {Y} (y) = f_ {X} (g ^ {- 1} (y)) \ cdot \ frac {d} {dy} g ^ {- 1} (y) \ end {rovnice *} a na druhé straně, pokud se monotónně zmenšuje, pak pdf $ Y $ je dáno \ begin {rovnice *} f_ {Y} (y) = – f_ {X} (g ^ {- 1} (y)) \ cdot \ frac {d} {dy} g ^ {- 1} (y) \ end {rovnice *} výše uvedené dvě rovnice lze spojit do jedné rovnice: \ begin {equation *} \ proto f_ {Y} (y) = f_ {X} (g ^ {- 1} (y)) \ cdot | \ frac {d} {dy} g ^ {- 1} (y) | \ end {equation *}
Komentáře
- Ale protože integrál přes fx musí být součet 1 a fy je zmenšená verze fx, doesn ' t to znamená, že fy není správné pdf, pokud není Jacobi v abs () 1 nebo -1?
- @Chris Jacobian z $ g ^ {-1} $ nemusí být nutně konstantní funkcí, takže může být na některých místech > 1 a na jiných < 1.
- Domnívám se, že výše uvedený původ je nesprávný. Když $ g (.) $ Monotónně klesá, $ g (X) \ le y \ implikuje X \ ge g ^ {- 1} (y) $. Znaménko mínus se magicky neobjevuje.
- Znaménko mínus pochází ze skutečnosti, že nerovnost je přepínána pro monotónně klesající transformace.
Napsat komentář