Vào cuối xuân năm Tân Dậu (1861) tức là năm thứ mười bốn triều vua Tự Đức, cách đây chín mươi bảy năm Tham tri Bộ Binh Phạm Thế Hiển mất ở Biên Hòa, sau khi đã anh dũng chống đánh thực dân Pháp xâm lăng.
Nguyên là quân Pháp xâm lăng đã mưu đánh ta từ lâu, từ cuối đời vua Thiệu Trị, từ năm 1847. Họ đánh phá của Hàn, tức là Tourane, rồi họ đánh phá Nam Việt. Họ ngoan cố lắm. Họ một mặt nhờ binh hùng tướng mạnh, nhờ tàu chiến, súng đoản, súng trường, thần công, đại bác, bắn phá các đồn, cướp của, giết người, để cho ta sợ…; một mặt họ đề nghị hòa với ta, hòa nghĩa là ta phải cắt đất Nam này cho họ làm bá chủ.
Hòa hay chiến? Hòa như thế nào? Chiến ra làm sao? Vua Tự Đức và triều đình rất băn khoăn. Sử cho ta biết trong bộ Chánh biên vào tháng bảy năm Canh Thân (1860) ngài đem việc trong Gia Định, nên đánh hay nên hòa mật hỏi Nguyễn Tri Phương và Phạm Thế Hiển. Hai ông ấy tâu rằng: “Vừa giữ vừa đánh tiện hơn, lại đem những việc cần kíp nên xử trí như thế nào, bày tâu cả. Ngài cũng cho là phải”. Tháng bảy năm Canh Thân (1860), ngài bảo Nguyễn Tri Phương rằng: “Nguyên soái Nam kỳ hiện giờ không ai bằng người. Từ đình thần tới quân sĩ đều nói như thế, ngươi không nên từ” Và ngài cử Đông các đại học sĩ, Tráng Liệt bá Nguyễn Tri Phương sung Gia Định quân thứ tổng thống quân vụ đại thần.
Nguyễn Tri Phương trước khi ở kinh thành Huế ra đi, có xin nhà vua phải tham tri Bộ Binh là Phạm Thế Hiển cùng đi, hai vị này đã lãnh đạo cuộc chống quân Pháp xâm lăng.
Vào cuối xuân năm Tân Dậu tức là năm sau (1861) sau khi tới quân thử được độ năm sáu tháng, hai vị đã phải chống giữ trong những trận rất gay go với quân Pháp thực dân xâm lăng. Sử ta chép rõ ràng như sau: “Quân đại Pháp tới đánh đồn Gia Định, quan quân ta lui đóng ở tỉnh Biên Hòa. Khi ấy tàu Pháp đến thêm ba mươi chiếc, lính hơn mười ngàn người, châu súng bắn vào đồn bắc thang leo lên lũy, quan quân đối địch không nổi đồn bị phá. Nguyễn Tri Phương lui về tạm tỉnh”. Tạm tỉnh là một chỗ đặt ra như là tỉnh lỵ để ở tạm chứ không phải thiệt là tỉnh thành. Quân Pháp tìm được căn cứ của ta ở tạm tỉnh và sử chép là: “Đại Pháp lại đem vài ngàn lính ngày nào cũng bắn. Quan quân ta không chống nổi, lại lui đóng tại tỉnh Biên Hòa, quan tỉnh cũng dời tới đó ở chung”.
Vậy vào cuối xuân năm Tân Dậu (1861), quân Pháp thực dân xâm lăng đã mở cuộc đại tấn công đánh phá Gia Định. Tổng thống quân vụ Nguyễn Tri Phương phải lui quân về tạm tỉnh thuộc miền Biên Hòa, lại bị quân Pháp đánh phải lui về đóng tại tỉnh thành Biên Hòa.
Sau trận rút lui này Tham tri Phạm Thế Hiển, cánh tay phải của Tổng thống Nguyễn Tri Phương đã mất. Người đã mất vì lao tâm lao lực, tuổi người chắc độ ngót sáu mươi, hay vì bị đạn của thực dân Pháp, ta không biết. (Phạm Thế Hiển (1803-1861), quê ở làng Luyến Khuyết, xã Thụy Phong, huyện Thái Thụy, tỉnh Thái Bình, đỗ tiến sĩ năm 1829. Khi quân Pháp đánh thành Gia Định, Phạm Thế Hiển bị trọng thương và mất sau đó không lâu.) Người đã mất vì muốn bảo vệ đất nước chống lại quân Pháp xâm lăng.
