Địa danh Sài Gòn trên 300 năm và từng được dùng để chỉ một khu vực với diện tích khoảng 1 km² (Chợ Sài Gòn) có đông người Hoa sinh sống trong thế kỷ thứ 18. Địa bàn đó gần tương ứng với khu Chợ Lớn ngày nay.
Năm 1747, theo danh mục các họ đạo trong Launay, Histoire de la Mission Cochinchine, có ghi chép “Rai Gon Thong” (Sài Gòn Thượng) và “Rai Gon Hạ” (Sài Gòn Hạ).
Theo Phủ Biên Tạp Lục của Lê Quý Đôn viết năm 1776, năm 1674 Thống suất Nguyễn Dương Lâm vâng lệnh chúa Nguyễn đánh Cao Miên và phá vỡ “Lũy Sài Gòn” (theo Hán Nho viết là “Sài Côn”). Đây là lần đầu tiên chữ “Sài Gòn” xuất hiện trong tài liệu Việt Nam. Vì thiếu chữ viết nên chữ Hán “Côn” được dùng thế cho “Gòn”. Nếu đọc theo Nôm là “Gòn”, còn không biết đó là Nôm mà đọc theo chữ Hán thì là “Côn”.
Sau đó danh xưng Sài Gòn được dùng để chỉ các khu vực nằm trong lũy Lão Cầm (năm 1700), lũy Hoa Phong (năm 1731) và lũy Bán Bích (năm 1772), chỉ với diện tích 5 km².
Ngày 11 tháng 4 năm 1861, sau khi chiếm được thành Gia Định, Phó Đô đốc Léonard Charner ra nghị định xác định địa giới thành phố Sài Gòn (tiếng Pháp: Ville de Saigon) bao gồm cả vùng Sài Gòn và Bến Nghé. Đến ngày 3 tháng 10 năm 1865, quyền thống đốc Nam Kỳ, chuẩn đô đốc Pierre Roze đã ký nghị định quy định lại diện tích của thành phố Sài Gòn chỉ còn 3km2 tại khu Bến Nghé cũ, đồng thời cũng quy định thành phố Chợ Lớn (tiếng Pháp: Ville de Cholon) tại khu vực Sài Gòn cũ. Từ đó tên gọi Sài Gòn chính thức dùng để chỉ vùng đất Bến Nghé, và tên Chợ Lớn để chỉ vùng Sài Gòn cũ. Sau năm 1956, tên gọi Sài Gòn được dùng chung để chỉ cả 2 vùng đất này.
Giữa những năm 1954 và 1975, sau Hiệp định Genève, Sài Gòn được chính quyền Việt Nam Cộng hòa xây dựng làm thủ đô.
Năm 1955, Thủ tướng Ngô Đình Diệm đã đổi tên Khu Sài Gòn-Chợ Lớn thành Đô thành Sài Gòn – Chợ Lớn. Sau khi trở thành Tổng thống, ngày 22 tháng 10 năm 1956, Ngô Đình Diệm ký sắc lệnh số 143-NV đổi “Đô thành Sài Gòn-Chợ Lớn” thành “Đô thành Sài Gòn”. Sau đó, lại ra sắc lệnh số 74-TTP ngày 23 tháng 3 năm 1959 ấn định quy chế quản trị Sài Gòn: Tổng thống trực tiếp bổ nhiệm Đô trưởng và các quận trưởng trong đô thành. Bốn ngày sau, lại có thêm nghị định số 110-NV chia lại các quận, theo đó Đô thành Sài Gòn được chia lại thành 8 quận, được đánh số từ 1 đến 8:
Quận 1: địa giới quận I cũ
Quận 2: địa giới quận II cũ
Quận 3: địa giới quận III cũ
Quận 4: địa giới thuộc quận VI cũ
Quận 5: phần địa giới thuộc quận IV cũ, phía bắc Kênh Tàu hủ[8]
Quận 6: một phần địa giới của quận V cũ
Quận 7: một phần địa giới của quận V cũ
Quận 8: phần địa giới thuộc quận IV cũ, phía nam Kênh Tàu hủ
Dưới quận là phường, dưới phường là khóm.
Tháng 12 năm 1966, quận 1 sát nhập thêm hai phường mới lập: An Khánh và Thủ Thiêm, từ xã An Khánh thuộc quận Thủ Đức, tỉnh Gia Định kế cận tách ra. Tháng 1 năm 1967, hai phường mới của quận I lại tách ra, lập thành Quận 9 của Đô thành Sài Gòn có 2 phường.
Tháng 7 năm 1969 thành lập Quận 10, Quận 11 trên cơ sở tách một phần Quận 3, Quận 5 và Quận 6. Lúc này thành phố có diện tích 67,53 km² với dân số khoảng 2 triệu người, gốm 11 quận và 60 phường.
Vào thập niên 1950-60, thời Tổng thống Ngô Đình Diệm, với viện trợ của Mỹ, Sài Gòn được đầu tư xây dựng hạ tầng, cùng với chiến dịch tuyên truyền “Hòn ngọc Viễn Đông” (The Pearl of the Far East)[9] hay “Paris Viễn Đông” (Paris de l’Extrême-Orient), kết quả là một hạ tầng cơ sở được xây dựng khá hoàn chỉnh. Tuy nhiên, do chiến cuộc leo thang từ giữa cuối thập niên 1960, chính quyền Sài gòn cùng người Mỹ đã cho xây dựng ồ ạt các công trình phục vụ chiến tranh.
