Pévy se situe à l'ouest du massif de Saint-Thierry. Les versants viticoles sont orientés en majorité au Sud-Est. Le point culminant atteint 212 mètres au lieu-dit "L'Epinette" et les vignes s'étagent de 100 à 190 mètres.
A l'époque romaine, Pévy s'appelait Pavium (la villa du romain Pavius). Vers 1100, il fait mention du village dans une charte de Manasès II portant donation de l'autel de Pévy, à l'abbaye Saint-Denis.
Au Moyen-Âge, le nom du village évolue pour devenir Pes Vitis qui signifie "au pied des vignes". Le village était entouré de murs et fermé de trois portes, celle du nord se nommait de la Croix, et celle du midi, Goliva.
En 1346, Thibaud la Barbe possédait à Pévy un domaine important composé d'une maison avec clos, quarante six pièces de terre, onze parcelles de bois et trois journées et demi de vignes (mesure ancienne de surface).
En 1773, Pévy avait une superficie de 740 ha, dont 38 ha de vignes. Sous Napoléon, le village a perdu près de 140 ha après un découpage administratif.
En 1825, l'almanach du département de la Marne décrivait ainsi le village : "Pévy, à demi-lieue de Prouilly vers le Nord Ouest, est un village incliné, rues étroites, bâti dans la pente d'une montagne regardant le soleil levant, et couronné de vignes".
En 1839, Pévy comptait 454 habitants.
Le hameau d'Hervelon situé à l'Est de Pévy possédait, dit-on, un couvent de moines rouges. Ce lieu-dit est à l'origine de la sélection d'un plant de Pinot Noir qui s'est fortement multiplié notamment sur les villages de Sacy et d'Ecueil vers 1925.
Pevy possède divers monuments historiques, tels que l'église romane, le château du bois de l'Ardre, des porches champenois, des lavoirs, le gué, et des petites rues fleuries...