L’origine du nom vient de : ny « division » et de velle « habitation », indiquant que le village a été bâti dans une île formée par deux bras de rivière.

Nivelle est une commune très ancienne puisqu’on en parle déjà en 863. Des biens situés dans ce village furent en effet donnés, à cette époque, à l’abbaye de Saint-Amand-Les-Eaux par Charles le Chauve. La commune faisait autrefois partie du Hainaut et du diocèse de Tournai. Elle a également fait partie, après la Révolution, de l’arrondissement de Douai. Au XVIIème siècle, des fouilles faites par un abbé de Saint-Amand-Les-Eaux, au hameau d’Hauterive, ont fait découvrir des sépultures, des poteries, des objets divers et des monnaies de l’époque Gallo-romaine.
La commune de Nivelle est située le long du chemin départemental 268. Elle est traversée par la Scarpe canalisée. Elle fait partie du canton de Saint-Amand rive gauche.
C’est un village très étendu se situant entre la vallée du Décours et celle de la Traitoire, à 3 kms de Saint-Amand-Les-Eaux, à 16 kms au Nord-ouest de Valenciennes et à 40 kms de Lille.