早在公元前121年，汉骠骑将军霍去病领兵攻打匈奴时，分兵进入湟中一带，在现今西宁城址建立了西平亭。到公元222年魏设西平郡，就西平亭旧址增筑南、西、北三面城垣。以为郡治，是为西宁最早的城垣。此后各朝代，对西宁城垣，屡次有所修缮。
现今所遗存的西宁城垣，为明朝初年所修筑。公元1386年（明太祖洪武十九年）长兴侯耿炳文奉命率陕西诸卫的士兵，在西宁旧城的基础上建筑的城垣，新城比旧城约小一半。周围长九里余，城墙高五丈，厚亦五丈，月城高四丈，壕深一丈八尺，宽二丈五尺。城门及角楼各有四座，另有敌楼十九座，逻铺三十四处，东门外面，还有关厢。以后清康熙、乾隆等朝对西宁城垣均曾加以修缮。
