西 晋惠帝（公元290年—307年在位）时，分兖州 陈留郡，置 济阳国，后除为济阳郡，治所在 济阳县（今河南省开封市 兰考县东北），领 济阳、 考城、宛朐等县，辖境相当于今河南省开封市 兰考县东北境、商丘市 民权县东北境及山东省菏泽市 牡丹区西南境、 东明县南境、 曹县西北境。晋室南渡后，郡境为 北魏管辖，郡内世家大族，如 江姓、 蔡姓等追随晋室举族南迁，兼之河水泛滥，郡废。

由于北疆失守，兼之郡内世家大族的成员很多南迁，东 晋明帝（公元322年—325年在位）时，在南朝侨置济阳郡   ，隶属于南徐州（今 镇江、 常州一带）   ； 南朝宋于 盱眙立 盱眙郡（今 淮安 盱眙境内），统领 考城、 阳城、直渎三县   。