Salah seorang tokoh perintis pembentukan desa Pulau Kecil yang bernama Abu Bakar dan tokoh lainnya. Beliau dikenal sebagai tokoh daerah setempat. Beliau sebagai putra daerah selalu mengamati dan melihat perkembangan kondisi riil desa pada saat itu. Maka suatu waktu, menurut pengamatan beliau, dipandang perlu dan dibutuh sebuah pemerintahan sendiri. Dengan pengamatan dan pertimbangan yang mendalam, Tergeraklah hati beliau untuk membentuk pemerintahan desa sendiri dan berfikir strategi-strategi yang harus diambil untuk membentuk sebuah desa. Beliau berjuang dengan dibantu dukungan moril dan materiil dari masyarakat setempat dengan terlebih dahulu memberikan wacana pemikiran atau doktrin kepada tokoh-tokoh dan masyarakat setempat tentang urgensi pemerintahan yang diatur oleh putra daerah membuahkan hasil yang memuaskan yakni terbentuknya desa Pulau Kecil.
Sedangkan untuk penamaan Desa Pulau Kecil, bermula dari adanya pulau yang kecil, posisinya berada di tepi sungai gansal tepatnya berada di muara parit Ibu Desa Pulau kecil yakni di dusun Tuah Sakti parit 13. Pulau ini muncul ketika air surut dan apabila air pasang pulau ini juga tenggelam. Desa ini juga di kenal dengan nama lain yakni “Tanjung Patappu” berasal dari bahasa bugis yang artinya pulau atau tanjung terendam. Dikatakan tanjung karena pulau ini menjorok keluar ke arah sungai dan ketika surut seakan-akan bersatu dengan daratan.