Sebagai salah satu disiplin ilmu, usul fikih pertama kali disusun oleh Imam Syafi'i pada abad ke-2 H. Namun demikian, sebagai suatu teori yang belum disistematisasikan, metode-metode yang digunakan dalam menetapkan hukum dari Al-Qur'an dan sunah sudah terlihat bibitnya sejak zaman Rasulullah SAW. Oleh sebab itu, para ulama usul mengatakan bahwa ilmu usul itu muncul bersamaan dengan fikih dan diawali sejak zaman risalah. Bibit ini semakin memperlihatkan bentuknya di zaman sahabat, pada saat ijtihad sudah mulai meluas di kalangan mereka, seperti yang dilakukan oleh Ibnu Mas'ud, Ali bin Abi Talib, dan Umar bin Khattab. Para sahabat ini senantiasa menetapkan hukum yang tidak ada nasnya dalam Al-Qur'an atau sunah dengan kriteria dan batasanbatasan tertentu. Umpamanya dalam kasus hukuman bagi orang yang minum khamar, Ali bin Abi Talib mengatakan: "Jika ia minum ia akan mengigau dan jika ia telah mengigau, dia akan menuduh orang berbuat zina dan hukuman menuduh orang berbuat zina adalah dera 80 kali." Dalam kasus ini terlihat Ali berusaha mencari inti permasalahan serta dampak dari perbuatan tersebut atau paling tidak dia berusaha menutup segala kemungkinan negatif yang dapat terjadi. Kemudian hal ini dikenal dengan istilah sadd dz-zari'ah.
Cara-cara yang ditempuh para sahabat dalam menentukan hukum suatu peristiwa yang tidak ada nasnya dalam Al-Qur'an atau sunah ini, di zaman tabiin semakin berkembang dan meluas. Hal ini sesuai dengan permasalahan yang semakin banyak terjadi. Perkembangan itu dapat dilihat dari fatwa-fatwa yang dikemukakan oleh Sa'id bin Musayyab di Madinah, Alqamah bin Waqqas al-Lais dan Ibrahim an-Nakha'i di Irak, dan Hasan al-Basri di Basra. Mereka adalah ahli hadis dan ahli fikih pada periode tabiin. Di antara mereka ada yang melihat permasalahan tersebut dari sudut maslahatnya (sesuatu yang mendatangkan kebaikan). Hal ini dilakukan jika nasnya tidak ada.
Adapun yang lain melihatnya dari sisi kias. Oleh sebab itu, berbagai hukum pun muncul. Misalnya, kalangan fukaha (ahli fikih) Irak melakukan usaha untuk mencari ilah-ilah (sebab) hukum yang akan dipergunakan melalui kias, kemudian ilah ini dikembangkan dan dibandingkan dengan ilah yang ada pada peristiwa yang perlu dicarikan hukumnya. Dengan demikian muncullah perbedaan-perbedaan cara yang dipergunakan dalam meng-istinbat-kan hukum, yang nantinya dikenal dengan sebutan Madrasah Irak, Madrasah Madinah, dan Madrasah Kufah. Penamaan ini menunjukkan perbedaan cara dan metode istinbat yang dipergunakan dalam menggali hukum.
Setelah itu muncullah para imam mujtahid, khususnya imam yang empat (Abu Hanifah atau Imam Hanafi, Imam MaIik, Imam Syafi'i, dan Ahmad bin Hanbal atau Imam Hanbali). Pada periode ini metode-metode usul fikih mencapai kesempurnaannya, yakni masing-masing imam tersebut menciptakan metode istinbat-nya sendiri, yang membedakannya dengan metode imam-imam yang lain. Imam Abu Hanifah menyusun metode istinbat dengan urutan: Al-Qur'an, sunah, fatwa para sahabat yang menjadi kesepakatan mereka, memilih fatwa sahabat yang dianggap cocok, pendapat para tabiin, kias, dan istihsan dengan cara yang jelas. Sementara Imam Malik mengemukakan pendapatnya dengan banyak berpegang pada amalan ahli Madinah. la juga mengritik beberapa hadis yang menurutnya bertentangan dengan Al-Qur'an.
Pada masa selanjutnya muncullah Imam Syafi'i yang secara khusus menyusun metode-metode tersebut dan membukukannya dengan nama ar-Risalah, sehingga ia dikenal sebagai orang pertama yang membukukan usul fikih. Imam Syafi'i menyusun kitabnya itu berdasarkan khazanah fikih yang ditemuinya dari peninggalan para sahabat, tabiin, dan imam-imam mujtahid sebelum dia. la berusaha mempelajari dengan seksama perdebatan yang terjadi antara fukaha Irak dan fukaha Madinah. Lalu ia memberikan jalan tengah dari kedua pandangan tersebut dan membuat teori-teori yang bersangkutan dengan hal tersebut, yang kemudian dikenal dengan nama usul fikih. Dalam kitabnya tersebut, Imam Syafi'i memaparkan pertimbangan yang dilakukan untuk mengetahui mana pendapat yang sahih dan yang tidak sahih. Diharapkan hal tersebut menjadi undang-undang umum yang berlaku dan menjadi pertimbangan dalam meng-istinbat-kan hukum pada setiap generasi. Dalam mendebat pendapat-pendapat para ulama sebelumnya, Imam Syafi'i telah berusaha melakukannya melalui teori yang dibahas dalam kitab ar-Risalah-nya.
Selanjutnya yang ditulis oleh Imam Syafi'i itu menjadi bahasan yang luas di kalangan ulama. Namun mereka mempunyai pandangan yang berbeda dalam membahas usul tersebut. Adapun yang mereka lakukan adalah :
1. ada yang berusaha mensyarah (menjelaskan) secara panjang lebar terhadap apa yang telah dikemukakan oleh Imam Syafi'i tanpa menambah atau mengurangi apa yang telah dipaparkan dalam kitab tersebut;
2. ada yang melakukan penambahan dari apa yang telah ditetapkan Imam Syafi'i dan bahkan memberikan pendapat yang berlawanan. Misalnya, kalangan Mazhab Hanafi mengakui metode-metode yang dikemukakan Imam Syafi'i, tetapi mereka menambahkan dengan metode istihsan dan 'urf (adat istiadat). Kemudian Mazhab Maliki juga menerima teori Imam Syafi'i, tetapi mereka menambahkan lagi dengan ijmak ahli Madinah (yang oleh Imam Syafi'i ditentang), istihsan, al-maslahah al-mursalah (yang oleh Imam Syafi'i berusaha dibatalkan), dan metode sadd az-zari'ah.
Pada prinsipnya para fukaha keempat mazhab tersebut tidak menentang dalil-dalil yang ditetapkan Imam Syafi'i, yakni Al-Qur'an, sunah, ijmak, dan kias, karena hal ini merupakan sesuatu yang telah disepakati. Namun di sisi lain, fukaha di luar Mazhab Syafi'i menambahkan dalil lain dalam usul mereka, sebagaimana yang telah digambarkan di atas.