Qual è la relazione tra stimatore e stima?
Su Febbraio 10, 2021 da adminQual è la relazione tra stimatore e stima?
Commenti
- ” Nelle statistiche, uno stimatore è una regola per calcolare una stima di una data quantità sulla base dei dati osservati: quindi la regola e il suo risultato (la stima) vengono distinti. ” (prima riga dellarticolo di Wikipedia en.wikipedia.org/wiki/Estimator ).
- + 1 Sto upvoting questa domanda (nonostante la presenza di una risposta ben formulata su unovvia pagina di Wikipedia) perché i tentativi iniziali di rispondere qui hanno indicato alcune sottigliezze.
- @whuber, posso dire i parametri del modello le stime sono lo stimatore?
- @loganecolss Uno stimatore è una funzione matematica. Ciò si distingue dal valore (la stima) che potrebbe ottenere per qualsiasi insieme di dati. Un modo per apprezzare la differenza è notare che alcuni set di dati produrranno le stesse stime , ad esempio, della pendenza in una regressione lineare utilizzando diversi stimatori (come il massimo Probabilità o Minimi quadrati riponderati in modo iterativo, ad esempio). Senza distinguere le stime dagli stimatori utilizzati per produrre tali stime, non saremmo in grado di capire cosa dice quellaffermazione.
- @whuber, anche con un determinato insieme di dati $ D $, stimatori diversi potrebbero anche fornire stime, non ‘ t loro?
Risposta
E . L. Lehmann, nella sua classica Teoria della stima puntuale , risponde a questa domanda alle pagine 1-2.
Le osservazioni sono ora postulato per essere i valori assunti da variabili casuali che si presume seguano una distribuzione di probabilità congiunta, $ P $ , appartenente a qualche classe nota …
… specializziamoci ora nella stima puntuale … supponiamo che $ g $ sia una funzione a valori reali definita [sulla classe di distribuzioni stabilita ] e che vorremmo conoscere il valore di $ g $ [qualunque sia la distribuzione effettiva in vigore, $ \ theta $ ]. Sfortunatamente, $ \ theta $ , e quindi $ g (\ theta) $ , è sconosciuto. Tuttavia, i dati possono essere utilizzati per ottenere una stima di $ g (\ theta) $ , un valore che si spera sarà vicino a $ g (\ theta) $ .
In parole: un stimatore è un matematico definito procedura che fornisce un numero (la stima ) per ogni possibile insieme di dati che un particolare problema potrebbe produrre. Quel numero intende rappresentare una proprietà numerica definita ( $ g (\ theta) $ ) del processo di generazione dei dati; potremmo chiamarlo ” estimand. ”
Lo stimatore stesso non una variabile casuale: è solo una funzione matematica. Tuttavia, la stima che produce è basata su dati che sono modellati come variabili casuali. Questo fa sì che la stima (pensata come dipendente dai dati) in una variabile casuale e una stima particolare per un particolare insieme di dati diventa una realizzazione di quella variabile casuale.
In un minimo ordinario (convenzionale) formulazione dei quadrati, i dati sono costituiti da coppie ordinate $ (x_i, y_i) $ . I $ x_i $ hanno sono state determinate dallo sperimentatore (possono essere quantità di un farmaco somministrato, ad esempio). Si presume che ogni $ y_i $ (una risposta al farmaco, ad esempio) provengono da una distribuzione di probabilità Normale ma con media sconosciuta $ \ mu_i $ e comune varianza $ \ sigma ^ 2 $ . Inoltre, si presume che le medie siano correlate a $ x_i $ tramite una formula $ \ mu_i = \ beta_0 + \ beta_1 x_i $ . Questi tre parametri: $ \ sigma $ , $ \ beta_0 $ e $ \ beta_1 $ – determina la distribuzione sottostante di $ y_i $ per qualsiasi valore di $ x_i $ . Pertanto qualsiasi proprietà di quella distribuzione può essere considerata come una funzione di $ (\ sigma, \ beta_0, \ beta_1) $ .Esempi di tali proprietà sono lintercept $ \ beta_0 $ , la pendenza $ \ beta_1 $ , il valore di $ \ cos (\ sigma + \ beta_0 ^ 2 – \ beta_1) $ , o anche la media al valore $ x = 2 $ , che (secondo questa formulazione) deve essere $ \ beta_0 + 2 \ beta_1 $ .
In questo OLS contesto, un non esempio di uno stimatore sarebbe una procedura per indovinare il valore di $ y $ se $ x $ sono stati impostati pari a 2. Questo non è uno stimatore perché questo valore di $ y $ è casuale (in un modo completamente separato dalla casualità dei dati): non è una proprietà (numerica definita) della distribuzione, anche se è correlata a quella distribuzione. (Come abbiamo appena visto, tuttavia, le aspettative di $ y $ per $ x = 2 $ , uguale a $ \ beta_0 + 2 \ beta_1 $ , può essere stimato.)
Nella formulazione di Lehmann, quasi qualsiasi formula può essere uno stimatore di quasi tutte le proprietà. Non esiste alcun collegamento matematico intrinseco tra uno stimatore e uno stimatore. Tuttavia, possiamo valutare – in anticipo – la possibilità che uno stimatore sia ragionevolmente vicino alla quantità che si intende stimare. I modi per farlo e come sfruttarli sono oggetto della teoria della stima.
Commenti
- (+ 1) Una risposta molto precisa e dettagliata.
- Una funzione di una variabile casuale non è anche essa stessa una variabile casuale?
- @jsk Penso che la distinzione che stavo cercando di fare make qui può essere chiarito considerando la composizione delle funzioni $$ \ Omega \ to \ mathbb {R} ^ n \ to \ mathbb {R}. $$ La prima funzione è una variabile casuale $ X $; il secondo (chiamiamolo $ t $) è qui definito un stimatore , e la composizione dei due $$ t \ circ X: \ Omega \ to \ mathbb { R} $$ è una ” stima ” o ” procedura di stima, ” che è, come dici correttamente, una variabile casuale.
- @whuber Nel tuo post dici ” Lo stimatore in sé non è una variabile casuale. ” Ho tentato una modifica al tuo post per chiarire il punto su cui tu ed io siamo daccordo, ma sembra che qualcuno abbia rifiutato la mia modifica. Forse preferirebbero la tua modifica!
- Lascia che continui questa discussione in chat .
Risposta
In breve: uno stimatore è un e una stima è un valore che riassume un campione osservato.
Un estimator è una funzione che mappa un campione casuale alla stima del parametro:
$$ \ hat {\ Theta} = t (X_1, X_2, …, X_n) $$ Nota che uno stimatore di n variabili casuali $ X_1, X_2, …, X_n $ è una variabile casuale $ \ hat {\ Theta} $. Ad esempio, uno stimatore è la media del campione: $$ \ overline {X} = \ frac {1} {n} \ sum_ {n = 1} ^ nX_i $$ An stima $ \ hat {\ theta} $ è il risultato dellapplicazione della funzione di stima a un campione osservato in minuscolo $ x_1, x_2, …, x_n $:
$$ \ hat {\ theta} = t (x_1, x_2, …, x_n) $$ Ad esempio, una stima del campione osservato $ x_1, x_2, …, x_n $ è la media del campione : $$ \ hat {\ mu} = \ overline {x} = \ frac {1} {n} \ sum_ {n = 1} ^ nx_i $$
Commenti
- Lo stimatore è un RV, mentre la stima è una costante?
- Non ‘ la tua conclusione è in conflitto con @whuber ‘ s? Qui dici che lo stimatore è RV, ma whuber dice il contrario.
- Sì, non sono daccordo con @whuber ‘ s statement ” Lo stesso estimatore non è una variabile casuale: ‘ è solo una funzione matematica “. Una funzione di variabile casuale è anche una variabile casuale. onlinecourses.science.psu.edu/stat414/node/128
Risposta
Potrebbe essere utile illustrare la risposta di Whuber nel contesto di un modello di regressione lineare. Supponiamo che tu abbia alcuni dati bivariati e utilizzi i minimi quadrati ordinari per ottenere quanto segue modello:
Y = 6X + 1
A questo punto, puoi prendere qualsiasi valore di X, inserirlo nel modello e prevedere il risultato, Y. In questo senso, potresti pensare ai singoli componenti della forma generica del modello ( mX + B ) come stimatori .I dati di esempio (che presumibilmente hai inserito nel modello generico per calcolare i valori specifici per m e B sopra) hanno fornito una base su cui potresti trovare stime per m e B rispettivamente.
Coerentemente con i punti di @whuber nel nostro thread di seguito, qualunque sia il valore di Y un particolare insieme di stimatori generati per essere, nel contesto della regressione lineare, pensati come valori previsti.
(modificato – alcune volte – per riflettere il commenti sotto)
Commenti
- Hai ben definito un predittore. È sottilmente (ma è importante ) diverso da uno stimatore. Lo stimatore in questo contesto è la formula dei minimi quadrati utilizzata per calcolare i parametri 1 e 6 dai dati.
- Hmm, non ho ‘ intendo in questo modo, @whuber, ma penso che il tuo commento illustri unimportante ambiguità nella mia lingua che ‘ non ho notato prima. Il punto principale qui è che puoi pensare alla forma generica dellequazione Y = mX + B (come usata sopra) come uno stimatore, mentre i valori predetti particolari generati da esempi specifici di quella formula (ad esempio, 1 + 6X) sono stime. Vorrei provare a modificare il paragrafo precedente per catturare questa distinzione …
- btw, ‘ sto cercando di spiegare questo senza introdurre il ” hat ” notazione che ‘ ho incontrato nella maggior parte delle discussioni sui libri di testo di questo concetto. Forse questo ‘ è il percorso migliore, dopotutto?
- Penso che tu abbia trovato un bel mezzo tra precisione e tecnicità nella tua risposta originale: continua così! Non ‘ non hai bisogno di cappelli, ma se riesci a mostrare come uno stimatore si distingue da altre cose simili, sarebbe molto utile. Ma tieni presente la distinzione tra prevedere un valore Y e stimare un parametro come m o b . Y potrebbe essere interpretato come una variabile casuale; m e b non lo sono (tranne che in un ambiente bayesiano).
- in effetti, un ottimo punto in termini di parametri rispetto ai valori. Modifica di nuovo …
Risposta
Supponi di aver ricevuto alcuni dati e di avere una variabile osservata chiamata theta . Ora i tuoi dati possono provenire da una distribuzione di dati, per questa distribuzione, cè un valore corrispondente di theta che deduci che è una variabile casuale. È possibile utilizzare la MAP o la media per calcolare la stima di questa variabile casuale ogni volta che la distribuzione dei dati cambia. Pertanto la variabile casuale theta è nota come stima , un singolo valore della variabile non osservata per un particolare tipo di dati.
Mentre lo stimatore sono i tuoi dati, che è anche una variabile casuale. Per diversi tipi di distribuzioni hai diversi tipi di dati e quindi hai una stima diversa e quindi questa variabile casuale corrispondente è chiamata stimatore .
Lascia un commento