Nguồn gốc Ba Son được lý giải bởi Vương Hồng Sển trong cuốn Sài Gòn năm xưa như sau:

“Đối diện Thủ Thiêm, bên kia bờ sông là cơ xưởng thủy quân, trước kia gọi là Ba Son”.  Hai chữ “Ba Son” cũng được định nghĩa một cách định chừng.

Có thuyết khẳng định rằng “Ba Son” là gọi tắt của danh từ Pháp “Mare aux poissons”; Trước kia có một con kinh đào tay giữa Arsenal (tên gọi của cơ xưởng Thủy quân năm 1960), người Pháp rất thích đi câu cá ở đây vì kinh này nhỏ nhưng có nhiều tôm cá, một thời gian sau xẻo nhỏ bị lấp đi nhưng danh vẫn còn, vì thế “mare aux poissons” được việt Nam hoá ra tiếng Việt là “Ba Son”

Theo thuyết thứ hai, khi xưa đã có một anh thợ thứ ba tên “Son”, vào làm sở này, rồi sau đó anh được lấy tên đặt tên cho sở nọ, theo tôi thuyết này vô căn cứ.

Thuyết thứ ba cho biết “Ba Son” có nguồn gốc từ tiếng Pháp “Bassin de radoub”, “Bassin” là “Ba Son”. Theo tôi thuyết này có phần thuyết phục giống như thuyết thứ nhất “mare aux poissons”. Theo quyển “Promenades dans Saigon”của tác giả Hilda Arnold, rằng thuở đầu người Pháp đã chi ra trên bảy triệu quan lúc bấy giờ để xây dựng cái ụ tàu này, để phục vụ cho việc sửa chữa tàu buôn tàu chiến tại Việt Nam không phải đem về Pháp xa xôi. Khi ấy, đường thủy thuận tiện cho di chuyển, nên cái ụ tàu “bassin de radoub” này giúp người Pháp nắm giữ vận mạng xứ này trong tay”.

Đối với nhà nghiên cứu An Chi, cách giải thích thứ 3 được ông đồng tình nhất. Tuy vậy, cách giải thích riêng của ông cho rằng: Ba Son bắt nguồn từ tiếng Pháp bastion (nghĩa là Pháo đài) và mối quan hệ này có ngày ông sẽ chứng minh được.