Skip to main content

Table 1 Empirical type I error rates for X2* and T2 for equal allele probabilities across K = 3 strata under H0

From: Testing for homogeneity of gametic disequilibrium across strata

n

D

p1+

p+1

X 2*

T 2

50, 50, 50

-0.125

0.5, 0.5, 0.5

0.5, 0.5, 0.5

0.047

0.110

 

0.0

  

0.055

0.052

 

0.125

  

0.076

0.116

 

-0.075

0.5, 0.5, 0.5

0.3, 0.3, 0.3

0.051

0.061

 

0.0

  

0.053

0.049

 

0.075

  

0.075

0.063

 

-0.045

0.3, 0.3, 0.3

0.3, 0.3, 0.3

0.042

0.021

 

0.0

  

0.044

0.053

 

0.105

  

0.100

0.167

 

-0.025

0.5, 0.5, 0.5

0.1, 0.1, 0.1

0.061

0.036

 

0.0

  

0.067

0.041

 

0.025

  

0.089

0.029

 

-0.015

0.3, 0.3, 0.3

0.1, 0.1, 0.1

0.024

0.017

 

0.0

  

0.025

0.047

 

0.035

  

0.104

0.117

 

-0.005

0.1, 0.1, 0.1

0.1, 0.1, 0.1

0.031

0.024

 

0.0

  

0.024

0.087

 

0.045

  

0.413

0.515

100, 100, 100

-0.125

0.5, 0.5, 0.5

0.5, 0.5, 0.5

0.049

0.106

 

0.0

  

0.052

0.051

 

0.125

  

0.065

0.112

 

-0.075

0.5, 0.5, 0.5

0.3, 0.3, 0.3

0.051

0.059

 

0.0

  

0.049

0.051

 

0.075

  

0.055

0.063

 

-0.045

0.3, 0.3, 0.3

0.3, 0.3, 0.3

0.046

0.024

 

0.0

  

0.048

0.051

 

0.105

  

0.048

0.156

 

-0.025

0.5, 0.5, 0.5

0.1, 0.1, 0.1

0.053

0.029

 

0.0

  

0.048

0.047

 

0.025

  

0.089

0.030

 

-0.015

0.3, 0.3, 0.3

0.1, 0.1, 0.1

0.026

0.013

 

0.0

  

0.029

0.048

 

0.035

  

0.075

0.109

 

-0.005

0.1, 0.1, 0.1

0.1, 0.1, 0.1

0.012

0.014

 

0.0

  

0.013

0.057

 

0.045

  

0.278

0.474

200, 200, 200

-0.125

0.5, 0.5, 0.5

0.5, 0.5, 0.5

0.050

0.050

 

0.0

  

0.052

0.048

 

0.125

  

0.058

0.112

 

-0.075

0.5, 0.5, 0.5

0.3, 0.3, 0.3

0.050

0.057

 

0.0

  

0.050

0.049

 

0.075

  

0.054

0.058

 

-0.045

0.3, 0.3, 0.3

0.3, 0.3, 0.3

0.049

0.025

 

0.0

  

0.049

0.049

 

0.105

  

0.052

0.156

 

-0.025

0.5, 0.5, 0.5

0.1, 0.1, 0.1

0.053

0.030

 

0.0

  

0.050

0.051

 

0.025

  

0.052

0.032

 

-0.015

0.3, 0.3, 0.3

0.1, 0.1, 0.1

0.044

0.014

 

0.0

  

0.044

0.051

 

0.035

  

0.045

0.105

 

-0.005

0.1, 0.1, 0.1

0.1, 0.1, 0.1

0.020

0.010

 

0.0

  

0.020

0.049

 

0.045

  

0.098

0.463

  1. The empirical type I error rate which is significant for the two-sided t-test at the nominal level of 0.05 is marked with underline.