民国22年（1933年）3月，国民政府将时南京市第二区范围划分为：东至逸仙桥、复成桥、大中桥一线，以青溪故道与第一区（属今玄武区）交界；南至大中桥、淮清桥、四象桥、内桥一线，以内秦淮河和第三区（属原秦淮区）交界；西至中山南路与第四区（属今建邺区和原秦淮区）相接；北至中山东路与第一区毗邻。

中华人民共和国成立后，南京市各区基本沿袭原区境范围。1950年6月，市人民政府调整区划范围，将原第一区和原第三区部分地区划归第二区。1955年8月，第二区改称“白下区”。时白下区东至中山门古城墙，南至建康路、通济门，西至中山南路、马巷，北至中山东路。

1979年至1982年初，原雨花台区所属的象房新村、友谊村、通济门外大街划归白下区。

1995年4月，在南京市区划调整中，雨花台区的石门坎镇和栖霞区的苜蓿园、后庄两行政村划归白下区管辖。

2002年10月，建邺区朝天宫、止马营两个街道办事处划归白下区管辖。

2013年2月，南京市行政区划调整方案经国务院、江苏省政府批复同意，撤销原白下区、原秦淮区，以原两区所辖区域设立新的秦淮区。