Понятие выборки. Построение по выборке графиков

Лекция 8. Математическая статистика

Типичная постановка задачи математической статистики такова: проделав выборочное обследование и получив тем самым совокупность реализаций случайной величины, вычислить с возможно большей точностью вероятностные характеристики этой случайной величины, то есть закон распределения или хотя бы его важнейшие числовые характеристики. Среди многообразия задач математической статистики мы ограничимся оценкой неизвестных параметров распределенной нормально случайной величины. Разобравшись в вопросах точечной и интервальной оценки параметров, мы научимся решать широкий круг задач из приложений. А овладение методом их решения позволит освоить и те разделы математической статистики, которые не вошли в предлагаемый курс.

Резюмируем кратко: цель математической статистики - сделать обобщающие выводы из имеющихся наблюдений над случайными величинами. Заметим, что в разделе “Оценка вероятности события” (2.4) мы уже познакомились с одним методом статистики - интервальной оценкой вероятности.

Метод, предлагаемый математической статистикой, состоит в том, что оцениваемые характеристики рассчитываются для выборки и объявляются оценками характеристик всей совокупности. Такая оценка дает значение параметра с некоторой погрешностью, так как сама является случайной величиной, зависящей от использованной при вычислении выборки. Для описания того, насколько можно доверять построенным по выборке оценкам или сделанным выводам, в математической статистике вводится специальное понятие “уровень доверия” к результатам обследования. Суть этого понятия состоит в следующем. В силу того, что все оценки делаются на основе выборки, они являются случайными значениями и им можно доверять не на все 100%, а лишь с некоторым “уровнем доверия”. “Уровень доверия” - это вероятность того, что выводы и оценки, сделанные на основе данных выборки, верны. Например, если уровень доверия для оценки взять 0,95, то из 100 выборок в среднем 5 дадут оценки, на основе которых будут сделаны неправильные выводы.

Таким образом, если делать на основе выборочного метода вывод о всей совокупности, вероятность ошибиться всегда остается. Но математическая статистика позволяет найти эту вероятность. Мы можем тогда решить для себя, на какой риск мы готовы пойти в каждом конкретном случае, и строить оценки с учетом допустимого риска. Математическая статистика предлагает нам методики, при использовании которых величина вероятности ошибки минимальна. Получив от математической статистики ответ, что новая технология лучше старой с уровнем доверия к этому высказыванию 95%, хозяин фирмы волен выбрать сам, как ему поступить. Если введение новой технологии не требует больших затрат, можно довольствоваться и таким уровнем доверия. Если затраты высоки, то, возможно, стоит добиться результатов, заслуживающих большего доверия, например, увеличить число объектов, участвующих в исследовании. Математическая статистика показывает, что чем больше число отобранных объектов, тем при той же точности меньше вероятность ошибки, и даже дает функциональную зависимость между объемом выборки и вероятностью ошибки.

Методы построения по выборке точечных и интервальных оценок для параметров всей совокупности применяются в самых разнообразных задачах. Для решения этих задач разработаны многочисленные статистические таблицы. Наша с вами задача – научиться основам этих методов.

Сначала введём ряд новых понятий и определений.

Понятие выборки. Построение по выборке графиков

Пусть требуется изучить некоторую совокупность однородных объектов.

Назовём множество всех изучаемых объектов генеральной совокупностью. Выборочной совокупностью, или кратко выборкой, назовём объекты, отобранные для исследования из генеральной совокупности, а их число n -объёмом выборки.

Для того чтобы по данным выборки можно было достаточно уверенно судить об интересующем нас признаке генеральной совокупности, необходимо, чтобы объем выборки был достаточно велик и выборка должна достаточно хорошо представлять пропорции генеральной совокупности. Кратко это требование звучит так: выборка должна быть репрезентативной (представительной), для чего каждый из её объектов должен быть отобран из генеральной совокупности случайным образом, то есть все объекты генеральной совокупности должны иметь одинаковую вероятность попасть в выборку.

К чему может привести несоблюдение правила случайного отбора, показывают многочисленные случаи неправильного проведения предвыборных опросов. Например, в 1936 году перед президентскими выборами в США журнал “Literary Digest” провел опрос 10 миллионов избирателей и предсказал, что Франклин Рузвельт проиграет выборы. Фамилии опрашиваемых избирателей были взяты из телефонных книг. Но в годы депрессии люди, имевшие телефон, не представляли всех избирателей США, выборка оказалась нерепрезентативной и прогноз не оправдался.

Существуют специальные приёмы отбора, обеспечивающие репрезентативность выборки, описание которых можно найти в книгах по статистике. Мы же будем в дальнейшем предполагать, что это требование выполнено и будем обсуждать только вопросы обработки выборочных данных.

Пусть из генеральной совокупности извлечена выборка объёмом n. Случайный выбор элемента рассматривается как независимое наблюдение над величиной x, имеющей некоторое распределение вероятностей. Те значения y₁, y₂…y_n, которые приняла случайная величина x в n наблюдениях, называются ее реализациями. Если эти числа записать не в порядке получения, а в порядке возрастания, то получим упорядоченную выборку x₁,x₂,…x_n, называемую вариационным рядом. Расстояние x_n-x₁между крайними членами ряда называется размахом вариационного ряда. Выборка и вариационный ряд несут практически одну и ту же информацию, но с вариационным рядом легче работать в силу его упорядоченности. Если изучается величина, имеющая непрерывное распределение вероятностей, то, скорее всего, вариационный ряд не будет содержать повторяющихся значений. Если же изучается дискретная случайная величина, то при достаточно большом объеме выборки в выборке будут повторяющиеся значения. Назовем относительной (эмпирической) частотой значения x_iчастоту m_i/n, где m_i– число совподающих элементов x_iв выборке объема n. Разные значения x_iназовем вариантами.

Построим по выборке таблицу из двух строк: в верхней строке указаны в порядке возрастания наблюдаемые значения, а в нижней – соответствующие им относительные частоты. Эта таблица называется таблицей статистического распределения выборки.

Для выборки из непрерывного распределения (нет повторяющихся значений) эта таблица будет иметь вид

Значения xi	x1	x2	…	xn
Частоты mi/n	1/n	1/n	…	1/n

Для выборки с повторяющимися значениями таблица выглядит так:

Значения xi	x1	x2	…	xk
Частоты mi/n			…

Соответствие между вариантами, записанными в порядке возрастания, и относительными частотами, задаваемоетаблицей статистического распределения выборки, называется статистическим (или эмпирическим) распределением выборки.

Пример . Имея конкретную выборку: 2, 6, 12, 6, 6, 2, 6, 12, 12, 6, 6, 6, 12, 12, 6, 12, 2, 6, 12, 6 (n=20), записать вариационный ряд и дать таблицу статистического распределения выборки.

Решение. Вариационный ряд: 2, 2, 2, 6, 6, 6, 6, 6, 6, 6, 6, 6, 6, 12, 12, 12, 12, 12, 12, 12.

Статистическое распределение выборки:

Варианты
mi
Частоты mi/n	0,15	0,5	0,35

Контроль: 0,15 + 0,5 + 0,35=1.

При большом числе наблюдений над непрерывной случайной величиной обычно прибегают к группировке данных: область на оси x, куда попали значения x₁,…,x_n, разбивают на 5-15 интервалов I₁, I₂,…,I_к (причем длины интервалов не обязательно одинаковы). В качестве “принимаемого” значения при этом будут выступать середины интервалов. Примером самого простого вида группировки может служить округление выборочных значений до ближайшего целого числа. Например, последовательность 0,414, -0,011, 0,666, -1,132 и т.д. обращается в 0, 0, 1, -1,… Аналогично округление может производиться до ближайшего числа, кратного 10 или 100.

Пусть m_j- число наблюдений, попавших в интервал I_j, к - число интервалов.

Тогда

(3.1)

Для наглядного представления статистического распределения пользуются графическим изображением вариационных рядов (полигоном, гистограммой и кумулятой).

В случае дискретного распределения на оси абсцисс откладывают отдельные наблюденные значение х₁. Из этих точек х_iвосставим перпендикуляры к оси ОХ длиной либо просто mi. Соединяя отрезками верхние концы соседних перпендикуляров, получим ломаную, называемую полигоном.

Гистограммастроится только для интервального вариационного ряда (группированной выборки). На каждом из интервалов значений как на основании строят прямоугольник с высотой, пропорциональной m_i- числу точек выборки в интервале I_i. Если середины верхних сторон соседних прямоугольников соединить отрезками прямых и концы этой ломаной еще соединить с серединами соседних интервалов, частоты которых равны 0, а длина равна длине ближайшего интервала, то получим полигон для группированной выборки.

По выборке легко получить эмпирическуюфункцию распределения (или функцию распределения выборки, или накопленные частоты). Пусть х - точка оси ОХ, а n_x- число точек выборки, попавших левее точки х. Тогда - доля точек выборки, лежащих левее точки х. Эта частота зависит от х и представляет собой эмпирическую функцию распределения . Её график - ступенчатая линия. Сглаженное графическое представление этой функции для непрерывной случайной величин даёт кумулята. Покажем это для группированных данных. Имея интервалы группировки I₁, I₂,...,I_k, подсчитываем в правом конце каждого интервала накопленную частоту и строим перпендикуляр к оси ОХ высотой (либо проста высотой n_x). Соединяя отрезками прямой верхние концы соседних перпендикуляров, получаем ломаную -кумуляту. Она монотонно поднимается от 0 до 1.

Проще всего показать на конкретном примере, как строятся эти графики (рис. 3.1, 3.2).

 

Таблица распределения продавцов по выработке

Выработка продавцов	Число продавцов	В процентах к итогу	Кумулятивная (накопленная) численность	Накопленная частота
80-100				0.1
100-120			15(5+10)	0.3
120-140			35(15+20)	0.7
140-160			45(35+10)	0.9
160-180			50(45+5)
И т о г о

Рис. 3.1 Рис. 3.2

На оси Y могут откладываться не количества, а проценты или проценты, деленные на константу, например частоты. Вид графика от этого не изменится (рис. 3.3, 3.4).

В нашем примере длины интервалов одинаковы. В этом случае при построении гистограммы можно изображать прямоугольники высоты mi. Если длины интервалов разные, то при построении гистограммы это надо учитывать. Например, все интервалы имеют длину 10, кроме крайнего, который имеет длину 50 (весь “хвост” объединен в один интервал). Все попавшие в него данные можно мысленно разбить на 5 одинаковых частей, каждая из которых попала бы в свой интервал длины 10. Следовательно, высота прямоугольника над этим интервалом длины 50 должна браться в 5 раз меньше, чем его m.

 

 

Рис. 3.3 Рис. 3.4

 

Если строить прямоугольники высоты m_i/d_in, где d_i– длина интервала I_i, то гистограмма будет изображать эмпирическую плотность. Действительно, плотность вероятности – это вероятность, “приходящаяся в данной точке на единицу измерения”. Вероятность попасть в i-й интервал равна m_i/n. Если d_i- это длина i-го интервала, то вероятность, приходящаяся на единицу измерения, которая и является значением эмпирической плотности внутри этого интервала, равна m_i/d_in (в этом случае вероятность попадания в i-й интервал будет ). Если строить прямоугольники с такими высотами, то суммарная площадь всех прямоугольников будет равна 1. Таким образом, в случае, когда длины всех интервалов одинаковые, при построении гистограммы по оси y можно откладывать просто значения mi. Если длины интервалов разные, то надо брать за основу m_i/d_i– количества, приходящиеся в этом интервале на единицу интервала. Если высоты прямоугольников сделать равными m_i/d_in, то гистограмма изображает эмпирическую плотность. Такая гистограмма самая удобная в том смысле, что позволяет сравнивать два распределения, имеющие разный объем, и не зависит от способа группировки данных.

Для дискретного вариационного ряда легко находится x_i, в котором m_iимеет наибольшее значение – это значение, частота которого максимальна. Это значение называется эмпирической модой. Для интервального ряда легко находится интервал, у которого miмаксимально. Мода находится внутри него. Для вычисления ее значения пользуются формулой линейной интерполяции. На рис. 3.1 и 3.3 показано, как ее искать графически.

“Накопленные частоты” – это и есть значения эмпирической функции распределения, а кумулята – ее сглаженное графическое изображение.

На графике кумуляты (см. рис. 3.2 и 3.4), или сглаженной эмпирической функции распределения, показана эмпирическая медиана. Медиана – важная характеристика распределения вероятностей. Это такая точка, что половина принимаемых значений лежит слева от нее, а половина справа (это середина распределения). Для дискретного вариационного ряда медиана d ищется по формуле

. (3.2)

Для группированной выборки медиана – это точка, в которой площадь гистограммы делится пополам (в нашем примере – это такая выработка, что у 25 продавцов выработка меньше этого числа, а у 25 больше, и из соображений симметрии видно, что это 130). Если медиана лежит практически в центре области принимаемых значений, то это указывает на то, что у распределения нет сильного перекоса вправо или влево, например, оно симметрично относительно медианы. Сдвиг медианы влево (рис. 3.5) или вправо (рис. 3.7) от центра области принимаемых значений означает больший “вероятностный” удельный вес левой или, соответственно, правой половины распределения.

 

 

Рис. 3.5 Рис. 3.6 Рис. 3.7

 

Указав в качестве принимаемых значений середины интервалов группировки, мы строим вероятностную таблицу выборки.

xi	mi	mi / n	Плотность вероятности	Накопленная частота (эмпирическая функция распределения)
		0,1	0,005	0,1
		0,2	0,01	0,3 = (0,1 + 0,2)
		0,4	0,02	0,7 = (0,3 + 0,4)
		0,2	0,01	0,9 = (0,7 + 0,2)
		0,1	0,005	1 = (0,9 + 0,1)
n

Итак, в самом общем случае по выборке построена таблица эмпирического распределения выборки.

Варианты			…
Частоты			…

Далее задача заключается в том, чтобы по полученному экспериментальному материалу сделать выводы о виде распределения и получить оценки значений его числовых параметров.

Нетрудно заметить полную аналогию между статистическим распределением выборки и законом распределения дискретной случайной величины, но в данном случае вместо возможных значений случайной величины фигурируют варианты, а вместо соответствующих вероятностей – относительные частоты. В силу этой аналогии по известному эмпирическому распределению можно по тем же формулам, что и для дискретного распределения, найти выборочные аналоги математического ожидания и дисперсии или вычислить эмпирическую вероятность события (x<x) для любого x (она равна , где n_x- число наблюдений x_i, меньших х), т.е. найти эмпирическую функцию распределения (рис. 3.8), а гистограмму и полигон (рис. 3.9) можно рассматривать как эмпирическую плотность.

 

 

Рис. 3.8. Кумулята и эмпирическая функция распределения

 

 

Рис. 3.9. Гистограмма и полигон

 

Если n увеличивать и, в случае группировки данных, длины интервалов группировки уменьшать, то гистограмма и полигон неограниченно приближаются (на каждом интервале сходятся по вероятности) к кривой плотности вероятности случайной величины (аналогично кумулята сходится по вероятности к теоретической функции распределения).

Поясним коротко, что означает термин “сходится по вероятности”. В курсе анализа изучалось понятие сходимости. Последовательность {a_n} называется сходящейся к a при n, стремящимся к бесконечности, если разность |a_n-a| становится при неограниченном росте n как угодно мала. Сходимость случайной величины по вероятности к некоторому значению означает, что, несмотря на увеличение числа испытаний, могут встретиться значения случайной величины, довольно сильно отличающиеся от предельного значения, но процент таких испытаний будет с ростом n уменьшаться (вероятность отклонения от предела стремится к 0). С такой сходимостью мы встречались выше, когда с помощью неравенства Чебышева оценивали вероятность отклонения случайной величины от своего математического ожидания более чем на e. Эта вероятность оценивается сверху с помощью дисперсии. Следовательно, последовательность случайных величин Х₁, Х₂,..., Х_nс общим средним m = MX_n= const, дисперсии DX_nкоторых стремятся к нулю при n ® ¥, сходится по вероятности к числу m. Строгая запись такой сходимости при . С помощь этих рассуждений доказывается сходимость по вероятности многих случайных величин, встречающихся далее.

По виду построенной нами гистограммы (см. рис. 3.9) можно предположить, что она построена по выборке из нормального распределения.

Приведенная ниже гистограмма (рис. 3.10) дает основание полагать, что выборка получена из равномерного распределения, график плотности вероятности которого имеет вид прямоугольника, т.е. задается отрезком прямой, параллельной оси ОХ.

 

 

Рис. 3.10

 

Еще одна гистограмма (рис. 3.11) – не из нормального и не из равномерного распределения.

 

 

Рис. 3.11

 

Эти примеры демонстрируют, как по гистограмме, построенной по выборке, можно оценить вид распределения вероятностей.

В дальнейших рассуждениях мы ограничимся рассмотрением случая, когда известен вид теоретического распределения, но неизвестны и подлежат определению параметры распределения. Так, в разделе 2.4 с помощью теоремы Муавра-Лапласа для биномиального распределения мы по результатам n раз проведенного эксперимента оценивали значение p. Теперь будем решать похожую задачу: известно, что интересующая нас величина распределена нормально, над ней n раз проводятся испытания; необходимо оценить по результатам испытаний ее математическое ожидание и среднеквадратическое отклонение (или дисперсию). Эта задача охватывает очень большой круг приложений ввиду того, что нормальное распределение является одним из самых распространенных распределений вероятности, так как согласно центральной предельной теореме такое распределение или близкое к нему имеют случайные величины, являющиеся суммой большого числа независимых взаимодействий. Эта же методика позволяет решить задачу сравнения двух выборок и ряд других задач.