Awal terbentuknya Gampong Paloh Gadeng adalah ketika datang seorang pengembara dari Meuredu yang kemudian dikenal dengan nama Tgk. Cut Nyak Agam, untuk membuka lahan kosong yang kemudian dijadikan tempat tinggal dan lahan untuk bercocok tanam bagi penduduk sekitar yang kemudian lambat laun mendirikan sebuah pemukiman.

Seiring dengan bertambahnya penduduk, warga pemukiman ini terus berbenah dan mengembangkan diri untuk melanjutkan kehidupan. Dan sebagian dari penduduk pada saat itu bekerja sebagai petani, penebang kayu untuk dijadikan arang, dan berkebun.

Dalam masa tersebut mereka setiap hari melakukan kegiatan serupa dan pada suatu hari tepatnya tahun 1901 mereka menemukan Gadeng gajah di suatu lembah (lingkaran atau Glong) disebut Paloh yang tempat tersebut sekarang berada di Dusun V Permai Komplek PT. PIM. Maka waktu itu mereka bermusyawarah/berunding untuk memberikan nama pemukiman yaitu dengan sebutan Paloh Gadeng, artinya lembah/lereng atau daerah tempat gadeng ditemukan.

Dari kejadian itulah awal permulaan terbentuknya Gampong Paloh Gadeng dengan penyusunan Peutua (Geuchik) sebutan sekarang ini dan diantara mereka juga berdatangan warga lain sehingga bertambah dan berkembang secara turun temurun hingga sekarang.