Парадокс Симпсона - одно из легко понятных и в то же время удивительных явлений в статистике. Это происходит, когда группы данных показывают определенную тенденцию, но эта тенденция меняется на противоположную при объединении групп. С помощью простого примера можно сразу понять парадокс.
Мы рассматриваем два непересекающихся множества \(\#1\) и \(\#2\) а также \(G = \#1 \cup \#2\) и проверяем вероятность успеха \(A\) внутри этих множеств. \(B\):
| \(A\) | \(B\) | \(win\) | |
| \(\#1\) | \(\frac{1}{1}=100\%\) | \(\frac{3}{4}=75\%\) | \(A\) |
| \(\#2\) | \(\frac{2}{5}=40\%\) | \(\frac{1}{3}=33\%\) | \(A\) |
| \(\#1 \cup \#2\) | \(\frac{3}{6}=50\%\) | \(\frac{4}{7}=57\%\) | \(B\) |
Оказывается, \(A\) более успешен, чем \(B\) в \(\#1\) а также \(\#2\) \(B\) , но на удивление в \(G\) \(B\) более успешен, чем \(A\) . Этот пример также является одним из тех с наименьшим набором \(G\) с \(|G|=13\) . Не существует \(G\) с \(|G|<13\) (доказательство грубой силой).
Теперь мы разделим множество \(G\) вместо \(2\) на \(3\) непересекающиеся подмножества \(\#1, \, \#2, \, \#3\) с \(\#1 \cup \#2 \cup \#3 = G\) . Затем мы строим захватывающий случай, когда для каждого элемента \(e_k \neq \emptyset\) множества \(P(G)\) из \(G\) применяется следующее: $$\forall e_1, e_2 \in P(G): |e_1| \neq |e_2| \Rightarrow win(e_1) \neq win(e_2) \land |e_1| = |e_2| \Rightarrow win(e_1) = win(e_2)$$ $$\forall e_1, e_2 \in P(G): |e_1| \neq |e_2| \Rightarrow win(e_1) \neq win(e_2) \land |e_1| = |e_2| \Rightarrow win(e_1) = win(e_2)$$
После нескольких часов грубой силы на стандартном Core i7 можно найти следующий пример:
| \(A\) | \(B\) | \(C\) | \(win\) | |
| \(\#1\) | \(\frac{6}{7}=85,71\%\) | \(\frac{12}{15}=80,00\%\) | \(\frac{22}{37}=59,46\%\) | \(A\) |
| \(\#2\) | \(\frac{95}{167}=56,89\%\) | \(\frac{48}{88}=54,55\%\) | \(\frac{38}{67}=56,72\%\) | \(A\) |
| \(\#3\) | \(\frac{48}{144}=33,33\%\) | \(\frac{16}{50}=32,00\%\) | \(\frac{2}{20}=10,00\%\) | \(A\) |
| \(\#1 \cup \#2\) | \(\frac{101}{174}=58,05\%\) | \(\frac{60}{103}=58,25\%\) | \(\frac{60}{104}=57,69\%\) | \(B\) |
| \(\#1 \cup \#3\) | \(\frac{54}{151}=35,76\%\) | \(\frac{28}{65}=43,08\%\) | \(\frac{24}{57}=42,11\%\) | \(B\) |
| \(\#2 \cup \#3\) | \(\frac{143}{311}=45,98\%\) | \(\frac{64}{138}=46,38\%\) | \(\frac{40}{87}=45,98\%\) | \(B\) |
| \(\#1 \cup \#2\cup \#3\) | \(\frac{149}{318}=46,86\%\) | \(\frac{76}{153}=49,67\%\) | \(\frac{62}{124}=50,00\%\) | \(C\) |
Таким образом (предполагая произвольно длительное время вычислений) можно найти примеры \(n\) непересекающихся подмножеств с одинаковым поведением. Когда такие случаи происходят в действительности, любые выводы, основанные на рекомендации для успеха группы, разумны и бессмысленны.
Здесь мы рекомендуем увлекательную книгу Иудеи Перл «Причинность: модели, рассуждение и вывод» .