Table 4

Mean relative root mean square error for 10, 25, 50 and 100 samples/simulation for each density estimator and each spatial pattern for the natural data sets (see Table 3)

Sample size

Sample size


RRMSE

Rank



Estimator

10

25

50

100

10

25

50

100


Uniform (n = 5)

AO2Q

0.306

0.266

0.247

0.238

7

8

8

8

AO3Q

0.280

0.247

0.232

0.224

6

7

7

7

BDAV3

0.254

0.202

0.182

0.173

3

5

5

5

KM2P

0.247

0.199

0.177

0.166

1

3

3

4

KMP

0.256

0.201

0.177

0.165

4

4

4

3

OD2C

0.307

0.229

0.202

0.188

8

6

6

6

OD3C

0.251

0.182

0.157

0.143

2

1

1

1

VAT

0.258

0.194

0.167

0.148

5

2

2

2


Poisson (n = 2)

AO2Q

0.392

0.353

0.341

0.333

8

8

8

8

AO3Q

0.345

0.316

0.307

0.302

7

7

7

7

BDAV3

0.270

0.157

0.114

0.091

4

3

3

3

KM2P

0.232

0.149

0.111

0.088

1

1

2

2

KMP

0.288

0.193

0.153

0.130

5

5

5

5

OD2C

0.304

0.199

0.159

0.131

6

6

6

6

OD3C

0.253

0.160

0.123

0.098

2

4

4

4

VAT

0.256

0.154

0.107

0.077

3

2

1

1


Clumped (n = 10)

AO2Q

0.390

0.321

0.293

0.277

2

2

3

3

AO3Q

0.362

0.307

0.284

0.271

1

1

1

2

BDAV3

0.461

0.331

0.287

0.263

6

3

2

1

KM2P

0.424

0.374

0.361

0.354

3

4

4

4

KMP

0.468

0.427

0.413

0.406

7

7

6

6

OD2C

0.491

0.466

0.459

0.455

8

8

8

8

OD3C

0.448

0.426

0.420

0.417

5

6

7

7

VAT

0.439

0.414

0.407

0.403

4

5

5

5


All (n = 17)

AO2Q

0.368

0.311

0.287

0.274

4

4

4

4

AO3Q

0.338

0.292

0.273

0.263

1

2

2

2

BDAV3

0.380

0.273

0.236

0.216

6

1

1

1

KM2P

0.346

0.297

0.279

0.269

2

3

3

3

KMP

0.387

0.335

0.316

0.305

7

7

7

7

OD2C

0.417

0.367

0.350

0.340

8

8

8

8

OD3C

0.369

0.325

0.311

0.301

5

6

6

6

VAT

0.366

0.321

0.303

0.291

3

5

5

5


White et al. BMC Ecology 2008 8:6   doi:10.1186/1472-6785-8-6

Open Data