Критерий Вилкоксона и проверка гипотезы об однородности двух выборок

  Введение

  Выборка (sample, set) — конечный набор прецедентов (объектов, случаев, событий, испытуемых, образцов, и т.п.), некоторым способом выбранных из множества всех возможных прецедентов, называемого генеральной совокупностью.

  Если исследователь  не имеет возможности управлять  выбором прецедентов, то обычно предполагается, что выбор прецедентов случаен. Если же выбором прецедентов можно  управлять, то возникают задачи оптимального формирования выборки

  Выборка называется однородной, если все её прецеденты x_i, i=1,…,m одинаково распределёны, то есть выбраны из одного и того же распределения <X¹,Σ¹,P₁> .

  Статистическая  гипотеза (statistical hypothesys) — это определённое предположение о распределении вероятностей, лежащем в основе наблюдаемой выборки данных.

  Проверка  статистической гипотезы (testing statistical hypotheses) — это процесс принятия решения о том, противоречит ли рассматриваемая статистическая гипотеза наблюдаемой выборке данных.

  Статистический  тест или статистический критерий — строгое математическое правило, по которому принимается или отвергается статистическая гипотеза.

  Ранговые  критерии — это статистические тесты, в которых вместо выборочных значений используются их ранги(номера элементов в упорядоченной по возрастанию выборке). Например, в упорядоченной выборке x₁≤ x₂≤…≤x_n выборочное значение x_i заменяется рангом  R=i

   Большинство  ранговых критериев являются  непараметрическими, хотя среди  ранговых критериев встречаются  и параметрические. 

  Непараметрические критерии не опираются на дополнительные предположения о распределении. 

1. Критерий  Уилкоксона-Манна-Уитни

  Критерий  Вилкоксона (В 1945г. Вилкоксон опубликовал критерий сравнения двух выборок одинакового объема. В 1947 г. Манн и Уитни обобщили критерий из выборки различного объема) служит для проверки однородности двух независимых выборок: х₁,х₂,...,х_n1 и у₁,у₂,...,у_n2. Достоинство этого критерия состоит в том, что он применим к случайным величинам, распределения которых неизвестны; требуется лишь, чтобы величины были непрерывными.(2)

  Двухвыборочный  критерий Вилкоксона предназначен для  проверки гипотезы

  H_{0 :}  P(X < Y) = 1/2,

  где X - случайная величина, распределенная как элементы первой выборки, а Y - второй.

  В описанной  выше вероятностной модели двух независимых  выборок без ограничения общности можно считать, что объем первой из них не превосходит объема второй, m < n, в противном случае выборки можно поменять местами.  Обычно предполагается, что функции F(x) и G(x) непрерывны и строго возрастают. Из непрерывности этих функций следует, что с вероятностью 1 все m + n результатов наблюдений различны. В реальных эконометрических данных иногда встречаются совпадения, но сам факт их наличия - свидетельство нарушений предпосылок только что описанной базовой математической модели.

  Статистика  S двухвыборочного критерия Вилкоксона определяется следующим образом. Все элементы объединенной выборки X₁, X₂, ..., X_m, Y₁, Y₂, ..., Y_n упорядочиваются в порядке возрастания. Элементы первой выборки X₁, X₂, ..., X_m занимают в общем вариационном ряду места с номерами R₁, R₂, ..., R_m, другими словами, имеют ранги R₁, R₂, ..., R_m . Тогда статистика Вилкоксона - это сумма рангов элементов первой выборки

  S = R₁ + R₂ + ... + R_m .

  Статистика U Манна-Уитни определяется как число  пар (X_i, Y_j) таких, что X_i < Y_j , среди всех mn пар, в которых первый элемент - из первой выборки, а второй - из второй. Как известно [7, с.160],

  U = mn + m(m+1)/2 - S .

  Поскольку S и U линейно связаны, то часто говорят не о двух критериях - Вилкоксона и Манна-Уитни, а об одном - критерии Вилкоксона (Манна-Уитни). 

  Критерий  Вилкоксона - один из самых известных  инструментов непараметрической статистики (наряду со статистиками типа Колмогорова-Смирнова и коэффициентами ранговой корреляции). Свойствам этого критерия и таблицам его критических значений уделяется  место во многих монографиях по математической и прикладной статистике (см., например, [1, 2]).

  Введем  некоторые обозначения. Пусть F^-1(t) - функция, обратная к функции распределения F(x). Она определена на отрезке [0;1]. Положим L(t) = G(F^-1(t)). Поскольку F(x) непрерывна и строго возрастает, то F^-1(t) и L(t) обладают теми же свойствами. Важную роль в дальнейшем изложении будет играть величина a =  P(X< Y) . Как нетрудно показать,

  

  Введем  также параметры

  

  Тогда математические ожидания и дисперсии статистик  Вилкоксона и Манна-Уитни согласно [4, с.160] выражаются через введенные  величины:

  М(U) = mna , М(S) = mn + m(m+1)/2 - М(U) = mn(1- a) + m(m+1)/2,

  D(S) = D(U) = mn [ (n - 1) b²  + (m - 1) g²  + a(1 -a) ]     . (1) 

  Когда объемы обеих выборок безгранично растут, распределения статистик Вилкоксона и Манна-Уитни являются асимптотически нормальными (см., например, [4, гл. 5 и 6]) с параметрами, задаваемыми формулами (1) .

  Если выборки  полностью однородны, т.е. их функции  распределения совпадают, справедлива  гипотеза

  H₀:    F(x) = G(x) при всех x,     (2)

  то L(t) = t для t из отрезка [0, 1], L(t)= 0 для всех отрицательных t и L(t)= 1 для t > 1, соответственно a= 1/2. Подставляя в формулы (1), получаем, что

  М(S) =  m(m+n+1)/2,   D(S) =  mn(m+n+1)/ 12   (3) .

  Следовательно, распределение нормированной и  центрированной статистики Вилкоксона

  T = ( S - m(m+n+1)/2) (mn(m+n+1)/ 12 ) ^{- 1/2}   (4)

  при росте  объемов выборок приближается к  стандартному нормальному распределению (с математическим ожиданием 0 и дисперсией 1).

Критерий (при уровне значимости ):

Рис.1 Критическая  область асимптотического критерия Манна-Уитни.

  Из асимптотической  нормальности статистики Т следует, что правило принятия решения для критерия Вилкоксона выглядит так:          

   - если  |T| <  Ф(1-α/2) то гипотеза (2) однородности (тождества) функций распределений принимается на уровне значимости α;         

   - если  же |T| > Ф(1-α/2) то гипотеза (2) однородности (тождества) функций распределений отклоняется на уровне значимости α.         

   В прикладной  статистике наиболее часто применяется  уровень значимости α=0,05. Тогда значение модуля статистики Т Вилкоксона надо сравнивать с граничным значением Ф(1-α/2)=1,96.

Пример 1. Пусть даны две выборки. Первая содержит m = 12 элементов 17; 22; 3; 5; 15; 2; 0; 7; 13; 97; 66; 14. Вторая содержит n=14 элементов 47; 30; 2; 15; 1; 21; 25; 7; 44; 29; 33; 11; 6; 15. Проведем проверку однородности функций распределения двух выборок с помощью критерия Вилкоксона.         

 Первым шагом  является построение общего вариационного  ряда для элементов двух выборок  (табл.1).

Табл.1. Общий  вариационный ряд для элементов  двух выборок

 

          Хотя с  точки зрения теории математической  статистики вероятность совпадения  двух элементов выборок равна  0, в реальных выборках экономических  данных совпадения встречаются.  Так, в рассматриваемых выборках, как видно из табл.1, два раза  повторяется величина 2, два раза - величина 7 и три раза - величина 15. В таких случаях говорят  о наличии "связанных рангов", а соответствующим совпадающим  величинам приписывают среднее  арифметическое тех рангов, которые они занимают. Так, величины 2 и 2 занимают в объединенной выборке места 3 и 4, поэтому им приписывается ранг (3+4)/2=3,5. Величины 7 и 7 занимают в объединенной выборке места 8 и 9, поэтому им приписывается ранг (8+9)/2=8,5. Величины 15, 15 и 15 занимают в объединенной выборке места 13, 14 и 15, поэтому им приписывается ранг (13+14+15)/3=14.         

 Следующий  шаг  - подсчет значения статистики Вилкоксона, т.е. суммы рангов элементов первой выборки

S = R₁ + R₂ + ... + R_{m =} 1+3,5+5+6+8,5+11+12+14+16+18+25+26=146.

Подсчитаем также  сумму рангов элементов второй выборки

S₁ = 2+3,5+7+8,5+10+14+14+17+19+20+21+22+23+24= 205.

  Величина  S₁ может быть использована для контроля вычислений. Суммы рангов элементов первой выборки S  и второй выборки S₁  вместе составляют сумму рангов объединенной выборки, т.е. сумму всех натуральных чисел от 1 до m+n. Следовательно,

S+ S₁ = (m+n)(m+n+1)/2= (12+14)(12+14+1)/2= 351.

В соответствии с ранее проведенными расчетами  S+S₁ = 146+205=351. Необходимое условие правильности расчетов выполнено. Ясно, что справедливость этого условия не гарантирует правильности расчетов.         

 Перейдем  к расчету статистики Т. Согласно формуле (3)

М(S) = 12(12+14+1)/ 2 = 162, D(S) = 12^.14(12+14+1)/ 12= 378 .

Следовательно,

T = (S - 162) (378) ^{- 1/2} = (146-162) / 19,44 = - 0.82.

Поскольку |T|<1,96, то гипотеза однородности принимается на уровне значимости 0,05.         

 Что будет,  если поменять выборки местами,  вторую назвать первой? Тогда  вместо S надо рассматривать  S₁ . Имеем

М(S₁ ) = 14(12+14+1)/ 2 = 189, D(S) = D(S₁ ) = 378 ,

T₁ = ( S₁ - 189) (378 ) ^{- 1/2} = (205-162) / 19,44 = 0.82.