Pegon digunakan di kalangan umat Muslim, yang hidup dari pendidikan agama di pesantren. Pegon sendiri muncul bersama Islam di Jawa. Pada saat itu, orang-orang Jawa masih menggunakan aksara Kawi dan aksara Jawa untuk menuliskan teks berbahasa Jawa klasik, dan aksara Sunda kuno untuk menuliskan bahasa Sunda klasik. Ketika Islam masuk ke Tanah Jawa, penggunaan abjad Arab sangat diintensifkan, karena dibutuhkan untuk memaknai kitab-kitab Al-Qur’ān, tafsirnya, serta kitab-kitab ḥadiṡ. Untuk berkomunikasi dengan orang Jawa yang menuturkan bahasa Jawa, para ‘ulama kemudian mengadaptasi abjad Arab yang digunakan olehnya sebagai bahasa sehari-hari ke dalam bahasa Jawa. Mereka menulisnya agar orang-orang Jawa lebih mudah dalam memahami agama, terlebih metode dakwah keliling saat itu masih lazim untuk menyiarkan Islam. Di era Wali Songo, contoh kitab misalnya Suluk Sunan Bonang, yang diyakini merupakan buah karya Sunan Bonang.

Di wilayah Melayu sendiri, abjad yang masih bersaudara dengan Pegon adalah abjad Jawi, digunakan untuk menulis bahasa Melayu. Dalam perkembangannya, seluruh lembaga pendidikan agama Islam di Jawa maupun Sumatra menggunakan kitab-kitab dengan abjad Arab, baik dalam bahasa Arab sendiri maupun bahasa-bahasa yang dipakai di daerah setempat, utamanya bahasa Melayu, Jawa, sampai Thailand selatan

Sayangnya, abjad Arab asli ini tidak mendukung fonem-fonem bahasa Jawa seperti e atau o, ca, pa, dha, nya, tha, dan nga. Pada akhirnya, di samping mengadopsi huruf-huruf asli Arab, abjad ini juga mengadopsi abjad Persia yang memiliki fonem-fonem tersebut selain dha dan tha Pada akhirnya, huruf-huruf baru diciptakan, yang diyakini diturunkan dari abjad Persia seperti ca dan gaf. Huruf-huruf lainnya diyakini diciptakan berdasarkan huruf asli Arab, misalnya pa dari fa’ yang diberi tiga titik, atau ca dari jim diberi tiga titik. Pada masa lalu, Pegon ditulis dengan harakat untuk membedakan e dan o, namun saat ini abjad Pegon sudah tidak lagi menggunakan harakat (beberapa orang menyebut ini Gundhil). Karena abjad ini digunakan untuk menulis bahasa Jawa, maka orang Arab tidak mampu membaca teks ini sebelum mampu mempelajari bahasa Jawa karena ada huruf-huruf yang dianggap “asing” bagi mereka.

Saat ini huruf Pegon di Jawa dipergunakan oleh kalangan umat Muslim, terutama di pesantren-pesantren. Biasanya ini hanya dipergunakan untuk menulis tafsiran atau arti pada Al-Qur’ān, tetapi banyak pula naskah-naskah manuskrip cerita yang secara keseluruhan ditulis dalam Pegon. Misalkan naskah-naskah Serat Yusup.