Курсовая работа: Види розподілу ймовірностей й оцінка його параметрів
Приклад 3.1.1 Випадковий розмір Х~ N (а, σ), при цьому числові значення параметрів а і σ2 не відомі. Знайдемо оцінки методу моментів для цих параметрів.
Використовуючи формулу (3.1), висловимо моменти v1 v2 через а й σ2:
(v1=a)∩(v2=а2 + σ2)- такий вид системи (3.2) у даному прикладі. Вирішивши її щодо а й σ 2, одержимо: а = v1 σ2 = v2 - v12. Звідси оцінки методу моментів:
це оцінка математичного чекання а;
це оцінка дисперсії σ2.
Відзначена раніше деяка невизначеність вибору початкових моментів може привести до одержання різних оцінок того самого параметра.
Приклад 3.1.2 Випадковий розмір X має розподіл Пуассона:
Знайдемо оцінку параметра X для двох
варіантів:
а) у якості початкового моменту візьмемо v1, одержимо:
б) у якості початкового моменту візьмемо v2; одержимо:
Оцінки - різні. Звичайно, краще перша: А, = х як більш проста і відповідному змісту параметра пуассонівського розподілу:
l = MX, тому за А, природно прийняти х - гарну точечну оцінку математичного чекання.
Однак не всі одержувані методом моментів оцінки мають властивост «гарної оцінки». Так, отримана в прикладі 3.1.1 оцінка
дисперсії σ2 не має властивість незміщеності а є асимптотично незміщеною оцінкою: lim мd= limn-1/n*=, тобто при великих п можна вважати, що не зміщена щодо .
Приведемо без доказу теорему про функції від моментів, із яко випливають визначені властивості оцінок методу моментів.
Припустимо, що функцією двох вибіркових моментів vk і vm: =h(v,vm), що не містить явно п. Позначимо =h(v,vm), де vk =Mvk, a vm = M/vm (останні дві рівності вірні в силу властивості незміщенност вибіркових початкових моментів),
Теорема стверджує: якщо в деякій околиці точки (v,vm), функція h безперервна зі своїми першими і другими похідними, то при великих п розподіл випадкового розміру =h(v,vm) близько до нормального (n має асимптотично нормальний розподіл) із математичним чеканням, рівним В, і дисперсією, рівної
(3.5)
де С2() деяка постійна, що залежить від . (Теорему можна поширити на будь-яку кількість моментів — аргументів функції h)
З теореми випливає, що при виконанні досить загальних умов оцінка методу моментів ), при великих п задовольняє наступним співвідношенням:
(3.6)
тобто оцінка методу моментів є асимптотично незміщенною,
(3.7)
Переконаємося в тому, що ма властивість забезпеченості. Дійсно, нерівність Чебішева для розміру при великих п, прийме вид:
звідси одержимо, що при п - P(/-/<)1.
Уведемо поняття ефективності й асимптотичної ефективності незміщено оцінки скалярного параметра .
Ефективністю е() незміщено оцінки параметра називають відношення min DQn(є s) — мінімально можливого значення дисперсії оцінки в класі S всіх незміщених оцінок параметра до дисперсії Dn розглянутої оцінки. При виконанні функцією щільності fх(х, 0) [функцією мовірності Р(Х =х, )] досить загальних умов регулярності: дифференційованих по , незалежності області визначення від і т. д. має місце нерівність Рао—Крамера—Фреше:
(3.8)
де i() — кількість нформації про параметр , що міститься в одиничному спостереженні, визначається співвідношенням
(3.9)
(i() — деяка постійна, що залежить від ). Тому
(3.10)
якщо е() = 1, то — ефективна оцінка параметра у класі S усіх
його незміщенних оцінок.
Асимптотичної ефективністю оцінки називають розмір
(3.11)
якщо () = 1 то — асимптотична ефективна оцінка (очевидно, що ефективна оцінка буде й асимптотично ефективною). Знайдемо вираження для асимптотичної ефективності оцінки
. Тому що при великих п оцінку можна вважати незміщеною, то з урахуванням формул (3.11,3.10,3.7) одержимо
Приклад 3.1.3 Переконаємося в тому, що знайдена методом моментів по випадковій вибірці з генеральної сукупності X ~ N (а, а) оцінка X параметра а є ефективної в класі не зміщених оцінок, а оцінка 2 параметра 2 є, після виключення зміщення, асимптотично ефективною.
Оцінка X - незміщена, і DX = 2/п. Припустивши, що 2 відома, використовуючи формулу (3.10), у якій, з обліком нормальності розподілу,
1(а) = М(dln f(x,a)/da) = 1/ 2 одержимо, що е() = 1. Звідси X - ефективна оцінка.
Оцінка - зміщена; виключивши зміщення, одержимо оцінку
дисперсія котрої Ds =2/n-1.
Припустивши, що а відомо, і використовуючи вираження (3.10), у котрому, с обліком нормальності розподілу,
одержимо, що ефективність е(s2) =(n – 1/n)<1, а асимптотична эффективність e0(s2) = lim e(s2) = 1. Отже, s2 – асимптотична эффективна оцінка.
Зауваження.
Незміщеною і ефективною оцінкою дисперсії є використовувана при відомому значенні параметра а оцінка s = (X -a) / п, тому що Мs = 2, Ds = 2/n и е(s) = 1.
При виконанні досить загальних умов усі три оцінки: 2,s2 s забеспечені.
У приведеному прикладі оцінки методу моментів X і 2 є відповідно ефективної й асимптотично ефективної. Однак подібні приклади швидке виключення: набагато частіше оцінки методу моментів із погляду ефективності не є найкращими з можливих навіть при великих п. Р. Фишер показав, що асимптотична ефективність цих оцінок часто значно менше одиниці. Асимптотично ефективн оцінки можуть бути отримані методом максимальної правдоподібності.
3.1.2 Метод максимальної правдоподібності
В основі методу максимальної правдоподібності лежить поняття функції правдоподібності. Нехай Х= (Х, Х2,..., Хп) — випадкова, а х = (х,х,..., хп) конкретна вибірки з генеральної сукупності X. Нагадаємо, випадково називають вибірку, що задовольняє наступним умовам:
випадкові розміри Х, Х2,,.., Хп незалежні, тобто
(3.12)
(3.13)
розподіл кожною з розмірів Х збігається з розподілом розміру X, тобто при і= 1, 2,..., n.
(3.14)
Функція правдоподібності — це функція L (х, ), значення якої в точці х визначається співвідношенням:
З визначення випливає: чим ймовірніше при фіксованому набір х, тим більше значення функції правдоподібності L (x, ), звідси і її назва.
Отже,
(3.15)
Відповідно до методу максимальної правдоподібності оцінка максимальної правдоподібності (п) = (п), ,..., ) параметра = (, ,..., ), при заданому наборі х визначається з умови:
(3.16)
де {} - область припустимих значень для .
Природність такого підходу до визначення оцінки випливає зі змісту функц L: при фіксованому функція L (х, 0) — міра правдоподібності набору х; тому, змінюючи , можна простежити, при яких його значеннях набір є більш правдоподібним, а при яких - менше, і вибрати таке значення , при якому наявний набір х буде найбільш правдоподібним.
У ряді випадків зручніше визначати з умови:
In £(х, ) = In L(x, ) (3.17)
ідентичного умові (3.16): якщо замість функції L узяти In L, крапка максимуму не зміниться. Функцію In L (х, 0) називають логарифмічною функцією правдоподібності.
Відповідно до формули (3.17), для знаходження (П) випливає: знайти вирішення системи рівнянь максимальної правдоподібності