Vào lúc 19 giờ ngày 05/05/1965, tại Vườn Trầu, xã Long Hòa, huyện Dầu Tiếng, Bình Dương đã diễn ra buổi lễ trang trọng, đánh dấu sự ra đời của LLVT tỉnh Bình Dương. Đó là lễ đọc quyết định của Tỉnh đội Trưởng tỉnh đội Bình Dương, chính thức ra mắt Tiểu đoàn Phú Lợi, tiểu đoàn vũ trang chủ lực vũ trang đầu tiên của Bình Dương mà sau đó những chiến thắng vẻ vang của tiểu đoàn, bắt đầu trang sử hào hùng chói lọi của quân và dân tỉnh Bình Dương, góp phần quan trọng tạo nên chiến thắng lịch sử mùa xuân 1975 – giải phóng hoàn toàn miền Nam thống nhất đất nước.

Để đánh dấu điểm mốc vẻ vang đó, chính quyền và Nhân dân tỉnh Bình Dương đã lập Bia kỷ niệm tại vị trí này. Đây là công trình văn hóa có ý nghĩa to lớn trong việc ghi nhớ những chiến công hiển hách, cũng như những hy sinh của các thế hệ cán bộ, chiến sĩ đã hy sinh cho độc lập dân tộc, có ý nghĩa giáo dục truyền thống sâu sắc cho các thế hệ mai sau.