1923（大正12）年の関東大震災後の復興事業の進捗にともない、神学部・高等学部・中学部ごとの図書室を統合した中央図書館を新築したいという機運が高まり、図書館建設の寄付を申し出た青山学院校友 間島弟彦の遺志を継いだ愛子夫人の寄付によって建てられました。
建物は、2008年に国の登録有形文化財に登録されました。

青山学院は、1945年5月25日の米軍による空襲により総面積の約7割を被災しましたが、図書館の被害は幸いほとんどありませんでした。
しかし、蔵書数はまだまだ少ない状況でした。

図書の収蔵能力が限界になってきたため大規模な改修工事を行い、書庫面積・閲覧席ともに2倍以上に拡張しました（書庫25万冊収蔵可能、閲覧席324席）。また、マイクロフィルム撮影用具一式を購入し、1964年にはマイクロフィルム相互利用センター校になるなど、マイクロ複写にも積極的な取り組みを行いました。

理工学部の開設と同時に、理工学部分室として、新しく図書館を開設しました。 1968年には理工学部分館として独立します。

60年代後半から、間島記念図書館の図書の収蔵能力が限界に近づき、新図書館を希望する声が増えていきます。

図書館の収蔵スペースの不足解消等のため 、1970年ごろから新図書館建築の検討を行い、既存の間島記念図書館に増築という形で建設、名称も「青山学院大学図書館」に変更されました。これまでの間島記念図書館の多くの部分は学院資料センターとして生まれ変わり、「間島記念館」と改称されました。

厚木キャンパス開設と同時に新しい図書館が建設され、「万代記念図書館」と名付けられました。その名前の由来となった万代順四郎は、青山学院の元理事であり、万代氏の寄附をもとに「青山奨学基金」（後に「万代奨学基金」）が設立され、厚木キャンパスの図書館建設にも使われました。

青山学院大学図書館AURORAシステム（Aoyama Gakuin University Library Resources Online Retrieval Assistance System）を独自に開発、稼働。利用者は、従来の紙の目録ではなくCD-ROM版蔵書目録を用いることによって、図書館内の蔵書の検索が簡単にできるようになりました。
また、図書館の目録作成においては、文部省学術情報センターのNACSIS-CAT（全国規模の総合目録システム）、OCLC（世界規模の総合目録システム）の利用も可能となりました。

インターネットに接続できるパソコンにより、海外のデータベースにもアクセスできるようになりました。
AURORAでの蔵書検索も、CD-ROM版からインターネット上でのOPAC（Online Public Access Catalog）検索に移行していきました。

厚木と世田谷にあった2つのキャンパスを移転・統合し、相模原に新キャンパスを開設しました。図書館も新設し、厚木キャンパスにあった「万代記念図書館」の名称を引き継ぎました。地下には50万冊規模の自動搬送書庫システムを取り入れ、各階に出納ステーションを設けることで、利便性を高めました。出納ステーションを各フロアに設けたことと収容量の多さは、当時大変注目されました。
2011年には、自動搬送書庫システムの収容量を延べ85万冊に増設しました。

利用者とともに進化する図書館
青山学院大学の図書館の歩みは続きます。