La Genetica di popolazione fornisce la struttura matematica per lo studio del processo di microevoluzione. Sono le interazioni con altre specie, più che i fattori abiotici, a condizionare la storia evolutiva di una specie, portando a volte all'estinzione, altre volte a una divergenza: la speciazione, che è un processo evolutivo grazie al quale si formano nuove specie da quelle preesistenti. Il concetto di speciazione è stato essenzialmente sviluppato da Ernst Mayr. La speciazione risulta dalla selezione naturale e/o dalla deriva genetica, che sono i due motori dell'evoluzione. Vi sono quattro differenti modalità di speciazione: allopatrica, parapatrica, peripatrica e simpatrica.

Speciazione allopatrica: prevede l'esistenza di barriere geografiche che separino due popolazioni di individui della stessa specie in due territori differenti,definite isole. L'isolamento geografico può essere legato alla presenza di barriere naturali preesistenti quali montagne, deserti, mari, etc. ovvero essere il risultato di una modificazione ambientale (innalzamento del livello del mare, deviazione di un corso d'acqua, costruzione di barriere artificiali, etc.). Quando due popolazioni di individui della stessa specie si trovano in condizioni di isolamento, le nuove condizioni ambientali favoriscono per selezione ulteriori cambiamenti genetici, per cui, se l'isolamento persiste per un periodo sufficiente, la neo-specie non sarà più in grado di incrociarsi con la popolazione di origine. L'esempio classico, da cui prende origine questa teoria, è quello dei "fringuelli di Darwin", osservati da Charles Darwin sulle isole Galapagos.

Speciazione parapatrica: si parla di speciazione parapatrica quando la divergenza avviene all'interno di popolazioni che non sono totalmente isolate geograficamente ma possiedono una ristretta zona di contatto. Le migrazioni tra popolazioni sono tuttavia limitate poiché queste ultime si perpetuano all'interno di condizioni ambientali differenti(per esempio gradienti climatici). La selezione naturale ha dunque un ruolo importante in questa modalità di speciazione.

• Se le due specie hanno acquisito completo isolamento riproduttivo possono sovrapporsi, in base alle preferenza di habitat.

• Se si sono sviluppate barriere di isolamento riproduttivo ma non compatibilità ecologica, gli areali si mantengono parapatrici.

• Se non sono state acquisite barriere anti-ibridazione, si forma una zona di contatto che porta alla formazione di ibridi, nei quali possono evolvere barriere post-copula.

Speciazione peripatrica: la speciazione peripatrica, o speciazione per "effetto del fondatore" avviene quando un piccolo numero di individui costituisce una nuova popolazione ai margini dell'areale della specie di origine, ad esempio colonizzando una piccola isola vicina alla costa. La nuova popolazione può rapidamente evolvere in una nuova specie. A questo modello sono riferibili i casi di semi-specie , circoli di specie , super specie .

Speciazione simpatrica: La speciazione simpatrica avviene quando due popolazioni non isolate geograficamente si evolvono in specie distinte. In questo caso la selezione naturale gioca un ruolo cruciale nella divergenza delle popolazioni. Il fenomeno presenta tuttora degli aspetti controversi ma è stato, in alcuni casi ben documentato, per esempio nei pesci di acqua dolce della famiglia dei Ciclidi. I principali studi in questo campo riguardano gli esperimenti sulla Drosophila . La speciazione simpatrica può avvenire per formazione di una criptospecie, ossia di una popolazione non più interfeconda con la specie di origine, a causa di alterazioni del cariotipo.

Uno dei meccanismi alla base del fenomeno è la poliploidia, ossia l'aumento dell'assetto cromosomico di un individuo.

La poliploidia può avvenire per:

• una non-disgiunzione dei cromosomi durante il processo mitotico o meiotico;

• un processo meiotico o mitotico avvenuto senza errori, ma senza la successiva citodieresi.

Dunque, prendendo in esame un qualunque individuo diploide, si può immaginare una situazione del genere:

• l'individuo effettua la meiosi;

• durante la meiosi, avviene una non-disgiunzione dei cromosomi: i gameti risulteranno quindi diploidi;

• i gameti si incrociano tra loro: lo zigote risultante sarà tetraploide, ossia avrà un assetto cromosomico doppio rispetto al suo ascendente originario, cioè l'organismo iniziale preso in considerazione.

Tuttavia, la formazione di criptospecie avviene per lo più a livello di ibridi, cioè di individui frutto dell'incrocio di due specie differenti e, quindi, sterili.