太原郡在太原市。

秦始皇时太原郡辖7县：晋阳、界休（山西介休）、邬（山西介休东北30里）、兹氏（山西汾阳）、离石、榆次、霍人（山西繁峙东），包括今山西省五台山和管涔山南部一带、霍山北部一带地区。

北魏时期，太原郡辖地在今山西省太原市（晋阳县）、交城县、平遥县、和顺县之间的晋中一带地区，阳曲县及以北属秀容郡。唐高祖武德元年（618年），废太原郡复为并州总管府。