Cái tên ‘Sài Gòn’ đã có trên 300 năm và từng được dùng để chỉ một khu vực với diện tích khoảng 1 km² (Chợ Sài Gòn) có đông người Hoa sinh sống trong thế kỷ thứ 18. Địa bàn đó là khu Chợ Lớn ngày nay.
Lý giải về lần đầu tên ‘Sài Gòn’ xuất hiện thì theo Phủ Biên Tạp Lục của Lê Quý Đôn, năm 1674 Thống suất Nguyễn Dương Lâm vâng lệnh chúa Nguyễn đánh Cao Miên và phá vỡ “Lũy Sài Gòn” (theo Hán Nho là “Sài Côn”). Vì thiếu chữ viết nên chữ Hán “Côn” được dùng thế cho “Gòn”.
Sau đó danh xưng Sài Gòn được dùng để chỉ các khu vực nằm trong lũy Lão Cầm (năm 1700), lũy Hoa Phong (năm 1731) và lũy Bán Bích (năm 1772), chỉ với diện tích 5 km².
Năm 1861, sau khi chiếm được thành Gia Định, Phó Đô đốc Léonard Charner đã xác định lại địa giới thành phố Sài Gòn (tiếng Pháp: Ville de Saigon) bao gồm cả vùng Sài Gòn và Bến Nghé.
Đến năm 1865, quyền thống đốc Nam Kỳ, chuẩn đô đốc Pierre Roze đã ký nghị định quy định diện tích của thành phố Sài Gòn chỉ còn 3 km2 tại khu Bến Nghé cũ. Chuẩn đô đốc Pierre Roze cũng quy định thành phố Chợ Lớn tại khu vực Sài Gòn cũ.
Từ đó tên gọi Sài Gòn chính thức dùng để chỉ vùng đất Bến Nghé, và tên Chợ Lớn để chỉ vùng Sài Gòn cũ. Sau năm 1956, địa danh Sài Gòn được dùng chung để chỉ cả 2 vùng đất này.
Sau Hiệp định Genève (1954 – 1975), Sài Gòn được chính quyền Việt Nam Cộng hòa chọn làm thủ đô.
Trong đó, năm 1955, Thủ tướng Ngô Đình Diệm đã đổi tên Khu Sài Gòn-Chợ Lớn thành Đô thành Sài Gòn – Chợ Lớn. Năm 1956, sau khi trở thành Tổng thống, Ngô Đình Diệm ký sắc lệnh đổi “Đô thành Sài Gòn-Chợ Lớn” thành “Đô thành Sài Gòn”.
Năm 1959, Tổng thống Ngô Đình Diệm lại ra sắc lệnh bổ nhiệm Đô trưởng và các quận trưởng trong đô thành. Sau đó lại có thêm nghị định chia lại các quận. Theo đó Đô thành Sài Gòn được chia lại thành 8 quận, được đánh số từ 1 đến 8:
Quận 1: địa giới quận I cũ.
Quận 2: địa giới quận II cũ.
Quận 3: địa giới quận III cũ.
Quận 4: địa giới thuộc quận VI cũ.
Quận 5: phần địa giới thuộc quận IV cũ, phía bắc Kênh Tàu hủ.
Quận 6: một phần địa giới của quận V cũ.
Quận 7: một phần địa giới của quận V cũ.
Quận 8: phần địa giới thuộc quận IV cũ, phía nam Kênh Tàu hủ.
Dưới quận là phường, dưới phường là khóm.
Cuối năm 1966, quận 1 sát nhập thêm hai phường là An Khánh và Thủ Thiêm (tách ra từ quận Thủ Đức, tỉnh Gia Định). Đầu năm 1967, hai phường mới của quận I lại tách ra, lập thành Quận 9 của Đô thành Sài Gòn.
Năm 1969, Đô thành Sài Gòn thành lập Quận 10, Quận 11 (tách một phần Quận 3, Quận 5 và Quận 6). Lúc này Đô thành Sài Gòn có diện tích 67,53 km² với dân số khoảng 2 triệu người, gồm 11 quận và 60 phường.
Vào những năm 1950 – 1960 dưới thời Tổng thống Ngô Đình Diệm, với sự viện trợ của Mỹ, Sài Gòn được đầu tư xây dựng hạ tầng, cùng với chiến dịch tuyên truyền “Hòn ngọc Viễn Đông”. Tuy nhiên, do chiến cuộc leo thang từ giữa cuối thập niên 1960, chính quyền Sài Gòn cùng người Mỹ đã cho xây dựng ồ ạt các công trình phục vụ chiến tranh.
