La Hill Mansion est un exemple sophistiqué du style italianisant, l'un des nombreux styles pittoresques en vogue dans les années 1850. La maison a été achevée en 1857 pour Edward Baptist Hill, membre d'une importante famille de Culpeper. La façade est abritée par une véranda à arcades, une caractéristique préconisée pour les maisons du sud à cette époque. D'autres éléments remarquables sont les stucs taillés, les porches élaborés, à la fois en fonte et en bois, ainsi que les aménagements intérieurs, notamment un large escalier incurvé. La maison a servi d'hôpital confédéré et a été visitée à la fois par le Maj. Le général A. P. Hill, un frère du constructeur, et le général Robert E. Lee, dont le fils blessé, le Brig. Le général W. H. F. ("Rooney") Lee y a été soigné. Plus tard dans la guerre, il a servi de quartier général aux troupes de l'Union.  La maison contribue au district historique de South East Street dans la ville de Culpeper.