Дискретной случайной величины

Цель работы: выработать практические навыки элементарной статистической обработки результатов эксперимента.

Теоретический материал для лабораторных работ 4–5. Часто исследователю приходится обрабатывать большие массивы данных, полученных в результате эксперимента путём измерений, наблюдений, анализа, проб и т.п. Обычно экспериментатор имеет возможность многократно повторить свой опыт и получить большое количество однородных данных. Затем перед исследователем встаёт задача обработки этих данных, чтобы извлечь как можно более точную информацию об измеряемой величине. Изучением методов решения таких задач, в частности, занимается математическая статистика. Таким образом, в общих чертах математическая статистика разрабатывает математические методы, позволяющие делать существенные выводы об изучаемом объекте на основе статистических данных.

В теории вероятностей считаются известными законы распределения изучаемых случайных величин, и на их основе изучаются другие свойства случайных величин. В математической статистике сама с.в. считается неизвестной, и целью исследования является получение более или менее достоверной информации об этом распределении на основе данных, собранных в результате наблюдений.

Более точно о некоторых задачах математической статистики скажем ниже после введения основных понятий.

Генеральной совокупностью (сокращённо г.с.) называется случайная величина, над которой происходит наблюдение.

Пусть X – г.с. Выборкой из г.с. X называется конечная последовательность независимых с.в.

, (1)

распределённых так же, как и X. Число n называется объёмом выборки.

Если в результате опыта случайные величины выборки (1) получили числовые значения соответственно, то последние называются реализацией выборки или выборочными значениями.

Рассмотрим пример. Имеется большая партия однотипных электрических лампочек. Требуется установить время безотказной работы лампы (время от включения и до перегорания лампы). Г.с. является с.в. X – время безотказной работы лампочек из этой партии. Можно выбрать наугад 10 лампочек из этой партии и измерить время безотказной работы каждой из выбранных лампочек: . Эти числовые значения являются реализацией выборки объёма 10. В принципе, можно многократно провести измерения, каждый раз выбирая по 10 лампочек. При этом каждый раз значения x_i будут различными. Поэтому результатом таких измерений следует считать цепочку независимых с.в. (1), т.е выборку объёма 10. Итак, выборкой объёма 10 является цепочка независимых случайных величин, каждая из которых является временем безотказной работы лампочек из этой партии. Номинальным (средним) значением времени безотказной работы лампы из партии является математическое ожидание г.с. M [ X ].

Теперь рассмотрим подробнее некоторые задачи математической статистики.

1. Оценивание параметров. Эта задача состоит в том, чтобы по реализации выборки найти приближённые значения характеристик г.с., таких, как параметры, входящие в закон распределения г.с., математическое ожидание и дисперсию г.с. и т.п.

2. Проверка статистических гипотез. Бывает, что по реализации выборки из г.с. можно выдвинуть гипотезу о неизвестных параметрах или о функции распределения этой г.с. Задача состоит в том, чтобы разработать методы проверки (принятия или отвержения) таких гипотез.

3. Регрессионный анализ. Имеются результаты наблюдения над двумя случайными величинами. Требуется по ним установить, существует ли статистическая связь между ними. Если связь существует, то установить вид этой связи.

 

Точечные оценки неизвестных параметров г.с.

У г.с. неизвестными могут быть параметры, связанные с законом её распределения, её числовые характеристики (математическое ожидание, дисперсия и т.п.). Например, если предположить, что г.с. X имеет показательное распределение, то неизвестным может быть параметр l. В примере с электрическими лампочками неизвестным параметром является номинальное значение времени безотказной работы лампы из партии, т.е. математическое ожидание г.с. M [ X ].

Под оцениванием неизвестного параметра понимается нахождение его приближённого значения или диапазона его изменения. В первом случае оценка называется точечной, во втором – интервальной.

Пусть имеется выборка (1). Обозначим q неизвестный параметр г.с. X. С татистикой называется функция, зависящая от выборки (1). Например, , X ₁, – статистики. Очевидно, статистика является с.в. Если вместо выборки в статистику подставить реализацию выборки, то получится число, которое можно назвать реализацией статистики.

Точечной оценкой неизвестного параметра qг.с. X называется некоторая статистика , реализация которой считается приближённым значением параметра q. Заметим, что статистики часто будут обозначаться буквой с волной над ней.

Свойства точечных оценок. Понятно, что точечная оценка неизвестного параметра должна обладать некоторыми «хорошими» свойствами по отношению к оцениваемому параметру. Рассмотрим эти свойства.

1. Несмещённость. Точечная оценка неизвестного параметра q называется несмещённой, если , в противном случае оценка называется смещённой. Смысл несмещённости оценки состоит в том, что при нахождении приближённого значения неизвестного параметра по несмещённой оценке отсутствуют систематические ошибки (разность между значением оценки и оцениваемым параметром не имеет одного и того же знака).

2. Состоятельность. Точечная оценка неизвестного параметра qназывается состоятельной, если =0 " e > 0. Смысл состоятельности оценки состоит в том, что при увеличении объёма выборки значение оценки будет приближаться к оцениваемому параметру.

3. Эффективность. Точечная оценка неизвестного параметра q называется эффективной, если онаимеет наименьшую дисперсию среди всех несмещённых оценок этого параметра. Смысл эффективности оценки состоит в том, что у эффективной оценки ошибка оценивания параметра наименьшая.

О методах получения точечных оценок. Есть различные способы получения точечных оценок. О трёх из них (методе моментов, методе максимального правдоподобия и методе наименьших квадратов) можно прочитать в [1, 2, 5], а о методе наименьших квадратов подробно написано в [3].

Выборочной средней г.с. X называется статистика .

Выборочным начальным моментом k-го порядка называется величина .

Выборочным центральным моментом k-го порядка называется величина .

Метод моментов состоит в том, что точечная оценка получается при замене неизвестных моментов г.с. (их ещё называют теоретическими моментами) на соответствующие выборочные моменты. Так, точечной оценкой м.о. по этому методу является выборочное среднее, а точечной оценкой дисперсии – выборочный центральный момент второго порядка. Этот момент называется выборочной дисперсией и обозначается или .

Точечные оценки математического ожидания и дисперсии. По всем перечисленным выше методам в качестве оценки математического ожидания M [ X ] получается выборочное среднее , а в качестве оценки дисперсии D (X) – выборочная дисперсия . Кроме того, в качестве оценки дисперсии чаще рассматривают так называемую исправленную выборочную дисперсию . В качестве оценки среднеквадратического отклонения рассматриваются либо , либо .

Обозначим m = M [ X ] и . Приведём несколько полезных равенств.

1. .

2. .

3. , где .

4. .

Свойство 1 означает, что выборочное среднее является несмещённой оценкой для м.о.

По закону больших чисел выборочное среднее является состоятельной оценкой для м.о.

Выборочное среднее не всегда является эффективной оценкой для м.о. Так, если г.с. распределена по нормальному закону, то эта оценка эффективна, но для равномерно распределённой г.с. это не так.

Выборочная дисперсия является смещённой оценкой для дисперсии. Можно показать, что Таким образом, математическое ожидание от выборочной дисперсии «чуть» меньше дисперсии. Исправленная выборочная дисперсия является несмещённой оценкой для дисперсии: .

Наконец, приведём ещё несколько фактов.

1) и являются смещёнными, но состоятельными оценками для среднеквадратического отклонения s.

2) D_в и являются состоятельными оценками для дисперсии.

3) Перечисленные в предыдущих пунктах 1) и 2) оценки не являются эффективными, но при больших объёмах выборки они становятся почти эффективными.

Интервальные оценки. Основной недостаток точечной оценки состоит в том, что по нему нельзя сказать, насколько точно найдено приближённое значение неизвестного параметра. Интервальная оценка указывает промежуток, в который с некоторой вероятностью может попасть неизвестный параметр.

Пусть q – неизвестный параметр г.с. X, g– значение вероятности (т.е.0< g< 1), и – статистики, не зависящие от параметра q. Интервал (, ) называется доверительным интервалом для параметра q с доверительной вероятностью (или надёжностью) g, если выполняется равенство .

Величина a=1–gназывается уровнем значимости. На практике доверительные вероятности обычно выбирают равными 0.90, 0.95, 0.99. Смысл доверительного интервала состоит в том, что если провести большую серию опытов с одним и тем же объёмом выборки, то примерно в 100g % опытах доверительный интервал будет содержать неизвестный параметр.

Рассмотрим три закона распределения, которые часто используются в теории вероятностей.

1. Распределение (читается «хи в квадрате»). Пусть Î N(0, 1), – независимые нормально распределённые с.в. С.в. называется распределённой по закону со степенью свободы k.

2. Распределение Стьюдента Т (k). С.в. , где U Î N(0, 1), называется распределённой по закону Стьюдента со степенью свободы k.

3. С.в. , где k ₁, k ₂ – натуральные числа, называется распределённой по закону Фишера со степенями свободы k ₁, k ₂.

 

Рис. 4. График плотности распределения

 

В математической статистике важную роль играет понятие квантили. Квантилью порядка a (0< a< 1) называется такое число x _a, что F (x _a) = a. В случае непрерывно распределённой с.в. с плотностью распределения p (x), F (x _a) = P (X < x _a) = . Это значит, что квантиль x _a – точка на оси х, в которой вертикаль отсекает слева от себя на графике плотности распределения криволинейную трапецию с площадью a(см. рис. 4). Если плотность распределения – чётная функция, т.е. её график симметричен относительно оси у, то x _a= – x _{1– a}. Квантили введённых выше распределений можно найти в таблицах в учебниках по теории вероятностей и математической статистике, а также в приложении 5.

 

1 Доверительный интервал для м.о. нормально распределённой с.в.

1) Пусть г.с. X Î N(m, s) и известна дисперсия s². Воспользуемся тем фактом, что с.в. . Зададим малый уровень значимости 2a. Очевидно, что значения с.в. U попадают в интервал (u _a, u _{1– a}) c вероятностью g =1–2 a: . Здесь u _a– квантиль распределения с.в. U порядка a.

Теперь, решив неравенства относительно m, получим . Но так как u _a= – u _{1– a}, то . Далее из g =1–2a имеем 1–a= . Таким образом, окончательно получаем доверительный интервал:

.

 

2) Пусть г.с. X Î N(m, s) и дисперсия s² неизвестна. Тогда аналогично, используя точечную оценку S ² для дисперсии, получим доверительный интервал:

,

где – квантиль распределения Стьюдента порядка со степенью свободы n –1, S ² – исправленная выборочная дисперсия.

2 Доверительный интервал для дисперсии нормально распределённой г.с.

Пусть м.о. m неизвестно. Воспользуемся известным фактом, что с.в. имеет распределение . Пусть – квантиль распределения порядка a. По определению квантили

.

Решив двойное неравенство в скобках относительно и учитывая, что g = 1–2a, получим доверительный интервал для дисперсии:

.

Извлекая корень квадратный из этих неравенств, получим доверительный интервал для среднеквадратического отклонения:

.