Nel 1863 divenne assistente del gabinetto minerale reale di Vienna e professore di mineralogia, geognosia e paleontologia al Politecnico di Karlsruhe. Nel 1866 fu chiamato alla cattedra di Geologia e paleontologia all’università di Monaco. Le sue prime ricerche riguardarono minerali e petrografia. Come geologo di una spedizione in Libia nel 1873-74, Zittel raccolse le prove che portarono alla sua conclusione sul Sahara e cioè che non era stato ricoperto dall’acqua durante l’era glaciale pleistocenica. In seguito accettò l’evoluzione e portò l’applicazione della teoria alla paleontologia, specialmente nei suoi studi sulle ammoniti. Nel 1876 iniziò il suo lavoro sulle spugne fossili, che stabilirono la loro classificazione e gettarono le basi per la classificazione delle forme moderne. I suoi principali contributi alla paleontologia dei vertebrati riguardarono i fossili di tartaruga e pterodattilo trovati nei calcari bavaresi. Le opere più note di Zittel sono Geschichte der Geologie und Paläontologie (1899, Storia della geologia e paleontologia) e Handbuch der Palaeontologie (1880-93), un’indagine completa sulla paleobiologia.