Derivation av förändring av variabler för en sannolikhetsdensitetsfunktion?
On februari 9, 2021 by adminI boken mönsterigenkänning och maskininlärning (formel 1.27) ger det
$$ p_y (y) = p_x (x) \ vänster | \ frac {d x} {d y} \ höger | = p_x (g (y)) | g ”(y) | $$ där $ x = g (y) $, $ p_x (x) $ är pdf som motsvarar $ p_y (y) $ med avseende på förändringen av variabeln.
Böckerna säger att det beror på att observationer som faller inom intervallet $ (x, x + \ delta x) $, för små värden på $ \ delta x $, kommer att omvandlas till intervallet $ (y, y + \ delta y) $.
Hur härleds detta formellt?
Uppdatering från Dilip Sarwate
Resultatet gäller endast om $ g $ är en strikt monoton ökning eller minskning av funktionen.
Någon mindre redigering av LV Raos svar $$ \ börjar {ekvation} P (Y \ le y) = P (g (X) \ le y) = \ börjar {fall} P (X \ le g ^ {- 1} (y)) , & \ text {if} \ g \ text {ökar monotont} \\ P (X \ ge g ^ {- 1} (y)), & \ text {if} \ g \ text {minskar monotont} \ end {cases} \ end {ekvation} $$ Därför om $ g $ ökar monotont $$ F_ {Y} (y) = F_ {X} (g ^ {- 1} (y)) $$ $$ f_ {Y} (y) = f_ {X} (g ^ {- 1} (y)) \ cdot \ frac {d} {dy} g ^ {- 1} (y) $$ om monotont minskande $$ F_ {Y} (y) = 1-F_ {X} (g ^ {- 1} (y)) $$ $$ f_ { Y} (y) = – f_ {X} (g ^ {- 1} (y)) \ cdot \ frac {d} {dy} g ^ {- 1} (y) $$ $$ \ därför f_ {Y } (y) = f_ {X} (g ^ {- 1} (y)) \ cdot \ left | \ frac {d} {dy} g ^ {- 1} (y) \ right | $$
Kommentarer
- Resultatet gäller bara om $ g $ är en strikt monoton ökning eller minskning. Rita en graf på $ g $ och pussla ut den med grundidé bakom definitionen av derivatet (inte den formella definitionen med epsilon och delta). Det finns också ett svar från @whuber på denna webbplats som stavar detaljerna ; detta ska stängas som ett duplikat.
- Din bok ' s förklaring påminner om den jag gav på stats.stackexchange.com/a/14490/919 . Jag publicerade också en allmän algebraisk metod på stats.stackexchange.com/a/101298/919 och en geometrisk förklaring vid stats.stackexchange.com/a/4223/919 .
- @DilipSarwate tack för din förklaring, jag tror att jag förstår intuitionen, men jag ' m mer intresserad av hur det kan härledas med hjälp av befintliga regler och satser 🙂
Svar
Antag att $ X $ är en kontinuerlig slumpmässig variabel med pdf
f (x). Om vi definierar $ Y = g (X) $, där g () är en monotonfunktion, erhålls pdf
av $ Y $ enligt följande: \ begin {eqnarray *} P (Y \ le y) & = & P (g (X) \ le y) \\ & = & P (X \ le g ^ {- 1} (y)) \\ eller \; \; F_ {Y} (y) & = & F_ {X} (g ^ {- 1} (y)), \ quad \ mbox {enligt definitionen av CDF} \\ \ end {eqnarray *} Genom att skilja CDF: erna på båda sidor wrt $ y $, vi får pdf på $ Y $. Funktionen g () kan antingen öka monotont eller minska monotont. Om funktionen g () ökar monotont, ges pdf av $ Y $ med \ börja {ekvation *} f_ {Y} (y) = f_ {X} (g ^ {- 1} (y)) \ cdot \ frac {d} {dy} g ^ {- 1} (y) \ end {ekvation *} och andra sidan, om det är monotont minskande, ges pdf på $ Y $ med \ begin {ekvation *} f_ {Y} (y) = – f_ {X} (g ^ {- 1} (y)) \ cdot \ frac {d} {dy} g ^ {- 1} (y) \ end {ekvation *} ovanför två ekvationer kan kombineras till en enda ekvation: \ börja {ekvation *} \ därför f_ {Y} (y) = f_ {X} (g ^ {- 1} (y)) \ cdot | \ frac {d} {dy} g ^ {- 1} (y) | \ end {ekvation *}
Kommentarer
- Men eftersom integralen över fx måste summeras till 1 och fy är en skalad version av fx, gör inte ' t som betyder fy inte är en ordentlig pdf, såvida inte jacobian i magen () är 1 eller -1?
- @Chris The Jacobian of $ g ^ {-1} $ är inte nödvändigtvis en konstant funktion, så det kan vara > 1 på vissa ställen och < 1 på andra.
- Jag tror att ovanstående härledning är felaktig. När $ g (.) $ Minskar monotont, innebär $ g (X) \ le y \ X \ ge g ^ {- 1} (y) $. Minustecknet visas inte magiskt.
- Minustecknet kommer från det faktum att ojämlikheten byts för monotont minskande transformationer
Lämna ett svar