Eski adı Çakalondon olan belde, eski Kırklareli İstanbul yolu (D20) üzerinde bulunmaktadır. Çakıllı'nın en eski sakinleri antik çağların Trakyalılarıydı. Orta Çağ'da Bizans ve Osmanlı İmparatorluklarının bir parçasıydı. Evliya Çelebi, kasabayı 17. yüzyılda Türklerin ve Rumların bir arada yaşadığı bir yerleşim yeri olarak tanımlamıştır. Rus-Türk Savaşı (1877-1878) sonrasında, Türk mülteciler Bulgaristan'dan göç ederek Çakıllı'ya yerleştirildi. Çakıllı, 1969'da belde ilan edildi.

Beldenin merkezinde 820 yıllık bir tarihi çınar ağacı bulunmaktadır. Tabiat Varlıklarını Koruma Genel Müdürlüğü tarafından koruma altına alan ağacın türü Doğu Çınarıdır. (Platanus Orientalis) Ayrıca beldenin yakınlarında Ergene Nehrinin kaynaklarından biri bulunmaktadır.