元朝入主中原后，在都城附近设中书省（腹里），为削弱地方加强朝廷统治，利用犬牙交错的原则，将全国其他地区划分十个行中书省，简称行省或省，总计十一个省：中书、甘肃、河南江北、湖广、江西、江浙、辽阳、岭北、陕西、四川、云南。

江浙行省（江浙省），辖今江苏长江以南、安徽长江以南、上海、浙江、福建等地，省治（省会）杭州。

明初以南京为中心，将今江苏、安徽、上海的区域，设为直隶，南北跨淮河与长江，东西从大别山到大海。明成祖朱棣迁都北平后，北平所在的区域设直隶，原来的直隶变成了南直隶。

清初将南直隶改成江南省，治河名臣靳辅说：“江南省（南直隶）是各省之首，疆域广阔，形势堪称龙蟠虎踞，襟带长江而北控大河（黄河），文物、财赋、物产，甲于天下！”

清朝的八大总督从北往南，从东往西分别为直隶总督、陕甘总督、两江总督、湖广总督、闽浙总督、两广总督、四川总督、云贵总督。明朝的钱袋子和米袋子依赖南直隶，清朝的钱粮主要仰仗两江总督所辖的今江苏、安徽、江西、上海。

由于两江地区的富庶，经济实力强悍。两江总督无疑是八大总督中最肥的一个，手握兵权，钱粮充足，朝廷对他们又爱又怕，忌惮三分。担任过两江总督的有：于成龙、林则徐、曾国藩、李鸿章、曾国荃、刘坤一、张之洞、尹继善等，都是大名鼎鼎、权倾朝野。

1661年（清顺治十八年），江南省拆分安徽与江苏（含今上海），是按照东西方向拆成两半，无论安徽还是江苏，都是南北跨淮河与长江的省份。取江宁府（南京）和苏州府的首字称江苏省，简称为苏。取安庆府和徽州府的首字称安徽省，简称为徽。江南省虽然拆分了，两江总督却保留了下来。两江总督府在南京，江苏巡抚衙门在苏州。

再来看浙江，元朝的江浙行省，到明朝拆分出来浙江省，一直沿用至今。

1843年（清宣宗道光二十三年）上海开埠，逐渐发展成经济中心，但一直隶属于江苏省。上世纪二十年代末设上海特别市，其实就是直辖市。自此之后，江浙变成了江浙沪。

江浙沪一般是指二省一市的所有辖区（江苏北部、浙江南部），有时也特指苏南地区、上海、浙江，江浙沪包邮，就是距离长江较远的徐州都可以包邮。而苏南地区，各种解释也不尽相同，有时不包括长江南岸的南京和镇江，有时又包括长江北岸的南通。

有一个说法，江浙是一个文化地理概念，江浙地区在长江与钱塘江之间，以太湖为中心，以古吴越文化为主体，政区则涉及苏浙皖赣沪一带，是一个泛文化地区。苏浙则有明确的边界，就是江苏省和浙江省。

另一种说法，江浙沪三个字，都有三点水，如果用苏浙沪，苏却不带水旁。“江”是长江，“浙”是钱塘江，“沪”是吴淞江，江浙沪放在一起的确非常契合。从字的角度来看，“苏浙沪”不如“江浙沪”有整体感。“苏”这个字，有时候会误解为苏州，因此大家用“江浙沪”而不是“苏浙沪”，慢慢这个说法也就约定俗成了。

还有一些类似的称呼，比如北上广不叫京沪穗，成渝不是蓉渝或渝蓉。