Skip to main content

Table 4 Empirical type I error rates for X2* and T2 for unequal allele probabilities across K = 5 strata under H0

From: Testing for homogeneity of gametic disequilibrium across strata

n

D

p1+

p+1

X 2*

T 2

50, 50, 50, 50, 50

-0.045

0.5, 0.4, 0.3, 0.4, 0.5

0.5, 0.4, 0.3, 0.4, 0.5

0.048

0.049

 

0.0

  

0.048

0.049

 

0.105

  

0.085

0.163

 

-0.025

0.5, 0.4, 0.3, 0.4, 0.5

0.5, 0.4, 0.3, 0.2, 0.1

0.047

0.041

 

0.0

  

0.057

0.054

 

0.025

  

0.077

0.060

 

-0.005

0.5, 0.4, 0.3, 0.2, 0.1

0.5, 0.4, 0.3, 0.2, 0.1

0.048

0.035

 

0.0

  

0.042

0.057

 

0.045

  

0.133

0.489

 

-0.015

0.5, 0.4, 0.3, 0.4, 0.5

0.3, 0.2, 0.1, 0.2, 0.3

0.045

0.037

 

0.0

  

0.045

0.053

 

0.035

  

0.082

0.100

 

-0.015

0.5, 0.4, 0.3, 0.2, 0.1

0.3, 0.2, 0.1, 0.2, 0.3

0.032

0.023

 

0.0

  

0.034

0.048

 

0.035

  

0.104

0.136

 

-0.005

0.3, 0.2, 0.1, 0.2, 0.3

0.3, 0.2, 0.1, 0.2, 0.3

0.045

0.034

 

0.0

  

0.035

0.057

 

0.045

  

0.160

0.475

100, 100, 100, 100, 100

-0.045

0.5, 0.4, 0.3, 0.4, 0.5

0.5, 0.4, 0.3, 0.4, 0.5

0.050

0.051

 

0.0

  

0.051

0.051

 

0.105

  

0.060

0.190

 

-0.025

0.5, 0.4, 0.3, 0.4, 0.5

0.5, 0.4, 0.3, 0.2, 0.1

0.050

0.050

 

0.0

  

0.051

0.051

 

0.025

  

0.062

0.067

 

-0.005

0.5, 0.4, 0.3, 0.2, 0.1

0.5, 0.4, 0.3, 0.2, 0.1

0.050

0.037

 

0.0

  

0.041

0.049

 

0.045

  

0.058

0.653

 

-0.015

0.5, 0.4, 0.3, 0.4, 0.5

0.3, 0.2, 0.1, 0.2, 0.3

0.046

0.040

 

0.0

  

0.047

0.051

 

0.035

  

0.054

0.118

 

-0.015

0.5, 0.4, 0.3, 0.2, 0.1

0.3, 0.2, 0.1, 0.2, 0.3

0.037

0.027

 

0.0

  

0.037

0.050

 

0.035

  

0.060

0.168

 

-0.005

0.3, 0.2, 0.1, 0.2, 0.3

0.3, 0.2, 0.1, 0.2, 0.3

0.047

0.035

 

0.0

  

0.038

0.053

 

0.045

  

0.060

0.610

200, 200, 200, 200, 200

-0.045

0.5, 0.4, 0.3, 0.4, 0.5

0.5, 0.4, 0.3, 0.4, 0.5

0.049

0.050

 

0.0

  

0.048

0.049

 

0.105

  

0.053

0.230

 

-0.025

0.5, 0.4, 0.3, 0.4, 0.5

0.5, 0.4, 0.3, 0.2, 0.1

0.049

0.062

 

0.0

  

0.051

0.050

 

0.025

  

0.053

0.081

 

-0.005

0.5, 0.4, 0.3, 0.2, 0.1

0.5, 0.4, 0.3, 0.2, 0.1

0.051

0.039

 

0.0

  

0.043

0.048

 

0.045

  

0.052

0.865

 

-0.015

0.5, 0.4, 0.3, 0.4, 0.5

0.3, 0.2, 0.1, 0.2, 0.3

0.048

0.044

 

0.0

  

0.049

0.049

 

0.035

  

0.048

0.169

 

-0.015

0.5, 0.4, 0.3, 0.2, 0.1

0.3, 0.2, 0.1, 0.2, 0.3

0.042

0.029

 

0.0

  

0.045

0.053

 

0.035

  

0.045

0.229

 

-0.005

0.3, 0.2, 0.1, 0.2, 0.3

0.3, 0.2, 0.1, 0.2, 0.3

0.047

0.035

 

0.0

  

0.040

0.053

 

0.045

  

0.051

0.815

  1. The empirical type I error rate which is significant for the two-sided t-test at the nominal level of 0.05 is marked with underline.