Occupé dès l’âge du Cuivre, puis de façon plus sédentaire et plus intensive à partir de l’âge du Bronze, le site de Terville est retenu par les ingénieurs de l’empire pour accueillir le tracé de la voie romaine Lyon-Trèves. Des villas de type rural y sont alors exploitées.

L’époque mérovingienne voit apparaître et se développer un habitat groupé de type diffus, au cœur du village actuel. Intégrée au compté de Luxembourg en 925, la villa franque se structure peu à peu en un village qui se développe autour de trois rues : Haute, Basse et Wain.

Morcelé en trois seigneuries distinctes à partir du XIIIème siècle, Terville aura à subir tragiquement tous les assauts menés par la trop proche forteresse de Thionville. Au XVIIème siècle, la guerre de Trente ans et sa cohorte de famines et d’épidémies dévasteront le village, où il ne restera plus que 7 feux en 1624 ;

Condé ayant choisi Terville comme quartier général au cours du siège de 1643, le village redevenu français est baptisé « Quartier du Roy ». Avec le retour de paix, les domaines sont à nouveau exploités et la population progresse rapidement : plus de 200 habitants en 1751. Les activités artisanales se développent également : de 7 en 1700, elles passent à 30 en 1788.

La Révolution fait de Terville, une commune autonome à partir de 1790, mais le Premier Empire regroupe Veymerange, Terville et Elange. En 1807, le territoire de Terville se trouve réduit par la vente de Gassion à Thionville.

Pour mettre fin aux différents continuels qui agitent Tervillois et Veymerangeois, l’administration du Reich accepte, en 1894, de rendre à Terville son statut de commune indépendante. Dès lors, le village ne va cesser de grandir.

A la fin du XVIIIème siècle, la grande industrie métallurgique fait son apparition et se développe rapidement dans la vallée de la Fensch, à Thionville USINOR.

D’une population essentiellement agricole, elle passe à une population ouvrière qui ne cesse de grandit : 1084 habitants en 1921, 5771 habitants en 1968. La sidérurgie constitue l’employeur prédominant sur le territoire des communes de Thionville et de Florange, et cet apport brutal de population fait de Terville une « cité dortoir ».

A partir de 1968, la crise de la sidérurgie entraîne une récession démographique de la commune. La population tombe à 5224 habitants en 1985.

Cependant, une redéfinition des sources d’emplois dans l’agglomération qui se tournent vers le tertiaire (commerces, administrations et services à la collectivité) à partir de 1984, et l’accueil du personnel de la centrale de Cattenom, permettent d’enregistrer un nouvel accroissement de la population : 6281 habitants au recensement de 1990 et 6587 habitants au recensement de 2010.