Imam Baihaqi dilahirkan di Khasrujard, Baihaq, yaitu di Naysabur di Persia (sekarang provinsi Khorasan, Iran) pada tahun 994. Ia mempelajari hadist dan mendalami fiqh mazhab Syafi'i, dan dalam hal akidah mengikuti mazhab Asy'ari. Dalam pencarian ilmunya, ia mendatangi para ulama di Baghdad, Kufah, dan Mekkah, sebelum akhirnya kembali lagi ke Baihaq.