Sa carrière militaire débute pendant l'expédition de Chine en 1900 alors qu'il est officier d'artillerie. Après avoir été nommé chef du IV^e régiment en 1911, il participe à des combats en Alsace au début de la première guerre. En 1916, il contribue à repousser des offensives allemandes lors de la bataille de Verdun. Nommé chef des armées du Nord et du Nord-est, il remplace Joffre dans la responsabilité tactique et stratégique de la poursuite de la guerre. Relevé de ses fonctions à la suite de l'échec du Chemin des Dames, la commission chargée d'étudier les causes de cet échec n'a pas soulevé la responsabilité de Nivelle.