Пространственно разобщенные, относительно изолированные друг от друга популяции, входящие в состав разных биоценозов, конкурируют друг с другом по способам существования, по экономичности использования жизненных ресурсов, по способности устоять в критические моменты жизни биоценоза.
Но не только жизнь множества меняется в результате межгруппового соревнования. Меняется сама эволюция.
Групповому отбору подлежат групповые свойства, такие как полиморфизм или разнообразие форм внутри популяции, не только сам факт существования различий между представителями популяций, но и численное соотношение форм. Сама частота возникновения наследственных изменений регулируется групповым отбором.
Представим себе две популяции дрозофил, заселяющих два винных завода. Заводы находятся на таком расстоянии друг от друга, что обмен особей между ними затруднен, но не исключен. Численность обеих популяций сдерживается не только недостатком корма для личинок зимой и весной. Мухи гибнут от инфекционных болезней и от инсектицидов. Время от времени вспыхивают эпидемии, или вводится новый инсектицид. Численность мух резко снижается. Выживают отдельные представители вида, носители редких мутаций, невосприимчивые к возбудителю болезни или к действию инсектицида.
Их тем больше, чем больше частота возникновения мутаций. Теперь представим себе, что популяции отличаются по частоте возникновения мутаций. Популяция, у которой мутации возникают чаще, имеет больше шансов сохраниться, чем та, у которой мутантов слишком мало, чтобы вся группа в целом могла противостоять катастрофическому изменению среды. Менее пластичная популяция погибнет, более мутабильная сохранится. А затем опустевший очаг снова заселится резистентными пришельцами извне.
Акт группового отбора совершился. Победителем в межпопуляционном соревновании оказалась популяция с более высоким уровнем мутабильности. Ее устойчивость покоилась на относительно большей неустойчивости ее генов. Мутационный процесс — генератор новшеств — оказался элементом защитного механизма, охранившего множество от уничтожения. Устойчивость одного уровня организации гарантирована в данном случае, как впрочем и во множестве других, неустойчивостью другого [Берг и др., 1941]. Шмальгаузен [1940], размышляя над защищенностью организма не только по отношению к вредоносному действию среды, но и по отношению к гибельному эффекту мутаций, высказал мысль, что аппарат наследственности — генотип популяции — менее устойчив, чем находящийся под его контролем фенотип популяции. Шмальгаузен не подозревал, что в генотипе популяции имеется устройство, меняющее в зависимости от изменения требований, предъявляемых популяции средой, частоту и характер возникающих мутаций.