洪武年间，朱元璋为强化等级观念，要求各地官员在上任时必须祭拜城隍，城隍也按地域分为“王”、“公”、“侯”，自此，城隍庙便被建于县衙之内。当然，平遥县衙也具有这样的特色，有阴阳两所衙门，这也是古代“天人合一”思想的体现。

明太祖朱元璋诏令各地修申明亭，平遥县城也修有申明亭，在申明亭中解决众多的民事纠纷，如感不公，可以击鼓鸣冤，这项政策在而今看来是非常有效仿价值的。

大门和仪门的建筑也十分具有特色，仪门东西两侧分为人门和鬼门，不同的审讯是要走不同的门的。

过了仪门便是大堂，大堂配有月台，于大堂下，整个人都肃然起敬。大堂东西有十一间房，称“六部房”。“六部房”分工明细，大大地提高了办事效率。

大堂之后有二堂，二堂主要是县官和县衙官员重要人员的办公室，穿过二堂是内宅，内宅是县官的生活区域。

其实一座小小的县衙就是一个微型的皇宫，完全依据皇宫的设计理念建立，只是没有皇宫的豪华而已。