При вариационно-статистической обработке количественных данных широко используются ошибки средней арифметической, среднего квадратичного отклонения и коэффициента вариации.
Они показывают границы, в которых находится истинное значение данных величин (в генеральной совокупности). Ошибка средней арифметической
В границах от М-2m до М + 2m генеральная средняя находится с вероятностью 95%. Это означает, что в 95 случаях из 100 истинное значение средней арифметической отстоит от выборочной средней не более, чем на две ошибки средней, но в пяти случаях из 100 оно будет находиться вне этого интервала. Если же исследователь считает, что возможность ошибиться в 5% случаев слишком велика, можно расширить доверительный интервал для средней от М - 3m до М+ 3m. В этом случае вероятность того, что генеральная совокупность лежит в указанных границах, равна 99,7% (Василевич, 1969).
Можно найти границы для генеральной средней с любой интересующей нас вероятностью. Для этой цели используется так называемое нормированное отклонение:
которое представляет разницу между каким-либо значением признака и средней арифметической, выраженную в долях ошибки средней. Тогда доверительный интервал можно записать в общем виде как M±tm. Вероятности, соответствующие определенным значениям t, находят из таблиц t, которые имеются в сводках по статистике и биометрии (Зайцев, 1973). Например, при п = 50 10% вероятности соответствует t = 1,68. Следовательно, генеральная средняя с вероятностью 10% лежит в интервале от 24 до 29%.
Ошибка средней арифметической в той или иной мере может характеризовать точность полученных данных. Для этого обычно используют процент ошибки от средней. Эта величина иногда называется относительной ошибкой. В почвеннозоологических исследованиях при самых больших применяемых в практике повторностях проб для самых массовых видов ошибка средней редко составляет менее 10% от средней (табл. 4, 5). Чаще всего для видов со средним уровнем численности она лежит в пределах от 15 до 40%. Можно считать, что величина ошибки около 20% от средней приемлема для целей количественной оценки закономерностей распределения почвенных беспозвоночных. В тех случаях, когда ошибка составляет 50% и более, данные могут использоваться только для ориентировочных оценок величин обилия, но не для сравнительных анализов. Иногда перед исследователем встает обратная задача: определить тот или иной показатель с заданной точностью, например, 10 или 20%. Это можно сделать, варьируя число проб. Найдя среднее квадратичное отклонение для какой-либо выборки, легко рассчитать требуемое число повторностей по формуле
где n - необходимая повторность, o - найденное среднее квадратичное отклонение, т - желаемая ошибка.