Skip to main content

Table 2 Empirical type I error rates for X2* and T2 for unequal allele probabilities across K = 3 strata under H0

From: Testing for homogeneity of gametic disequilibrium across strata

n

D

p1+

p+1

X 2*

T 2

50, 50, 50

-0.045

0.5, 0.4, 0.3

0.5, 0.4, 0.3

0.048

0.044

 

0.0

  

0.049

0.051

 

0.105

  

0.071

0.149

 

-0.015

0.5, 0.4, 0.3

0.5, 0.3, 0.1

0.046

0.037

 

0.0

  

0.046

0.051

 

0.035

  

0.066

0.105

 

-0.005

0.5, 0.3, 0.1

0.5, 0.3, 0.1

0.063

0.036

 

0.0

  

0.053

0.052

 

0.045

  

0.100

0.474

 

-0.015

0.5, 0.4, 0.3

0.3, 0.2, 0.1

0.040

0.032

 

0.0

  

0.042

0.049

 

0.035

  

0.074

0.101

 

-0.005

0.5, 0.3, 0.1

0.3, 0.2, 0.1

0.056

0.033

 

0.0

  

0.048

0.054

 

0.045

  

0.108

0.452

 

-0.005

0.3, 0.2, 0.1

0.3, 0.2, 0.1

0.048

0.031

 

0.0

  

0.041

0.053

 

0.045

  

0.123

0.452

100, 100, 100

-0.045

0.5, 0.4, 0.3

0.5, 0.4, 0.3

0.051

0.048

 

0.0

  

0.050

0.050

 

0.105

  

0.055

0.162

 

-0.015

0.5, 0.4, 0.3

0.5, 0.3, 0.1

0.047

0.043

 

0.0

  

0.046

0.050

 

0.035

  

0.054

0.150

 

-0.005

0.5, 0.3, 0.1

0.5, 0.3, 0.1

0.064

0.037

 

0.0

  

0.052

0.051

 

0.045

  

0.059

0.658

 

-0.015

0.5, 0.4, 0.3

0.3, 0.2, 0.1

0.044

0.035

 

0.0

  

0.047

0.051

 

0.035

  

0.051

0.124

 

-0.005

0.5, 0.3, 0.1

0.3, 0.2, 0.1

0.055

0.033

 

0.0

  

0.052

0.053

 

0.045

  

0.063

0.623

 

-0.005

0.3, 0.2, 0.1

0.3, 0.2, 0.1

0.055

0.033

 

0.0

  

0.043

0.051

 

0.045

  

0.061

0.593

200, 200, 200

-0.045

0.5, 0.4, 0.3

0.5, 0.4, 0.3

0.050

0.052

 

0.0

  

0.050

0.052

 

0.105

  

0.053

0.211

 

-0.015

0.5, 0.4, 0.3

0.5, 0.3, 0.1

0.049

0.049

 

0.0

  

0.048

0.049

 

0.035

  

0.049

0.220

 

-0.005

0.5, 0.3, 0.1

0.5, 0.3, 0.1

0.058

0.037

 

0.0

  

0.051

0.050

 

0.045

  

0.048

0.860

 

-0.015

0.5, 0.4, 0.3

0.3, 0.2, 0.1

0.048

0.043

 

0.0

  

0.049

0.048

 

0.035

  

0.050

0.190

 

-0.005

0.5, 0.3, 0.1

0.3, 0.2, 0.1

0.056

0.035

 

0.0

  

0.051

0.051

 

0.045

  

0.053

0.829

 

-0.005

0.3, 0.2, 0.1

0.3, 0.2, 0.1

0.051

0.034

 

0.0

  

0.050

0.050

 

0.045

  

0.049

0.791

  1. The empirical type I error rate which is significant for the two-sided t-test at the nominal level of 0.05 is marked with underline.