Հայաստանի ազգային գրադարանի պատմության սկիզբն համարվում է 1832 թ., երբ հիմնադրվում է Երևանի Արական գիմնազիայի գրադարանը։ Հայաստանի Մինիստրների Խորհրդի նիստում ընդունված «Պետական հանրային մատենադարանի մասին» օրենքով գրադարանը ստանում է պետական գլխավոր գրադարանի կարգավիճակ։ 1919-1921 թթ-ին գրադարանի առաջին տնօրեն Ստեփան Կանայանի ջանքերով հաջողվում է հավաքել, գնել և ժողովել Թիֆլիսի, Բաքվի, Ախալցխայի և Կարսի հայկական կազմակերպությունների, ընկերությունների, ուսումնական հաստատությունների գրադարանները և դրանք տեղափոխել Երևան։ Գրադարանը տեղավորված է 4 մասնաշենքում։ Ամենահինը Ալ. Թամանյանի նախագծած գլխավոր մասնաշենքն է (1939 թ.)։ Թամանյանական մասնաշենքի կառուցումը ֆինանսավորել են Խորհրդային Հայաստանի կառավարությունը և «Գրիգոր և Կարապետ Մելքոնյան» հիմնադրամը։ Այնուհետև շենքը հիմնանորոգվել է 2008-2011-ին՝ այս անգամ ՀՀ կառավարության ֆինանսավորմամբ։

Առաջին հավաքածուները, որոնց հիմքի վրա ձևավորվում են գրադարանի ֆոնդերը, հայ պետական, հասարակական և մշակութային գործիչներ Ալեքսանդր Մյասնիկյանի, Ն. Արղությանի, Բ. Ղորղանյանի, Լեոյի անձնական գրադարաններն էին, Ներսիսյան դպրոցի և այլ ազգային, մշակութային, ուսումնական հաստատությունների հավաքածուները։

    1925-1990 թթ. գրադարանը կոչվել է Ալեքսանդր Մյասնիկյանի անունով, քանի որ վերջինս բավականին խոշոր ներդրում էր ունեցել գրադարանի կայացման գործում։
    1982 թ.-ին հիմնադրման 150-ամյակի կապակցությամբ, գրադարանը պարգևատրվել է «Ժողովուրդների բարեկամության» շքանշանով։
    1999 թ.-ից հուլիսի 4-ը նշվում է որպես Հայաստանի Ազգային գրադարանի օր։
    2012 թ.-ին լրանում է Հայաստանի Ազգային գրադարանի 180 և գրադարանի գրահրատարակչական գործունեության 75 ամյակները։