1942年农历九月初四，民国一代高僧弘一大师圆寂。时任上海玉佛禅寺方丈的震华法师深悲法门秋晚，老成凋谢，乃与白圣法师及窦存我、夏丐尊居士等，为了表彰弘一大师的盛德高风，1943年1月在上海玉佛禅寺内发起成立弘一大师纪念会。

会上，弘一大师的弟子丰子恺以及窦存我、夏丏尊、叶圣陶等人发起，同时在玉佛禅寺成立图书馆，是沪上学习瞻仰大师风采、学习大师法语思想的殊胜清凉地。

2000年6月，玉佛禅寺复办该图书馆，正式命名为“弘一图书馆”，并对外开放。馆内藏有各类汉语、英语、梵语等珍贵佛学书籍3万余册。图书馆内有弘一大师半身法相雕塑，雕塑上方有“以戒为师”匾。基座上刻有弘一大师生平简介。馆内有联语三幅，两幅为弘一大师所撰。
其一曰：“西域雄文宜细读  南山缀绪要重扶”
其二曰：“万古是非浑短梦  一句弥陀作大舟”

2010年与上海图书馆签约，成为“上图一卡通”服务点，凭上海图书馆借书证即可借阅。