慧远本姓贾，出身于仕宦家庭。他从小喜好读书，十三岁时即随其舅父令狐氏游学于许昌、洛阳一带，读了大量儒家、道家典籍。《高僧传·卷六·释慧远传》载，他“少为诸生，博综六经，尤善《庄》、《老》”，致使当时的宿儒贤达，也莫不叹服他学识博深。

晋穆帝永和十年（公元年）慧远二十一岁。当时，他仍志在儒学，而且政治动乱的东晋社会又使他产生了避世思想，久怀隐居之愿。他打算远渡江东，就学隐居豫章（今江西南昌）的范宣子。范宣子雅好经术而拒绝作官，名重大江南北。可是这时正值石赵统治集团在石虎杀后内部矛盾激化，互相残杀，东晋又连年北伐，中原再度陷入大混乱，南路阻塞，使慧远不能如愿南下。当时，佛图的大弟子释道安立寺于太行恒山，宣传佛法。慧远听说后，便携同弟弟慧持前往恒山，拜师求救。上山后，他听道安讲了《般若经》，“豁然而悟”，叹息说：“儒道九流，皆糠秕耳！”（《高僧传·释慧远传》）于是毅然与弟弟投簪落发，开始了佛教僧侣的生活。

在道安的弟子中，慧远“厉然不群，常欲总摄纲维，以大法为己任”。他贫旅无资，连衣服也常常缺乏，可是始终坚持不懈，以夜续昼，刻苦学习，精心思考。道安见他聪明勤奋，对佛教教义领会得非常深入，常赞叹说：“使道流东国，其在远乎！”把佛教在中国广泛传播的希望，寄托在慧远的身上。慧远师事道安仅三年，由于勤奋钻研，学业优异，便在二十四岁的时候开始讲说《般若经》。般若学所宣扬的“实相”，即所谓超时空的本体，听众往往感到很难理解。有一次，一个听讲的人对道安阐发佛法的论著《实相义》提出质疑，慧远援引《庄子》义作类比来解释实相，使听众很快晓然。从此之后，道安唯独允许慧远不废俗书，可以引佛典以外的书籍来比附说明佛理。

慧远于晋安帝义熙十二年（公元年，一说为年），卒于庐山东林寺，活了八十三岁。他的著作被整理为十卷五十余篇。现存著作按类别有《沙门不敬者论》、《明报应论》、《三报论》、《沙门袒服论》等论文四篇，有《庐山出修行方便禅统经序》、《大智论钞序》、《阿毗昙心序》、《三当度论序》、《念佛三昧诗集序》五篇序文，此外有书信十四篇以及一些铭、赞、记、诗等，主要收集在《弘明集》、《广弘明集》和《出三藏记集》中。

慧远生前德高望重，在佛教界有着非常大的影响。著名诗人谢灵运曾为他写了一篇碑文《远法师诔》。南齐僧人道慧读了慧远的文集，慨然叹息，恨自己生之晚也，未能亲见慧远。为了实现夙愿，他和另一个僧人智顺溯流千里，到庐山观看慧远的遗迹，在那里流连了三载才回去。