Историята ѝ започва още през 18. век
Екатерина II я създава през 1795 г. Повече от век носи името Императорска публична библиотека. Едва болшевишката власт я преименува на Руска публична библиотека. Дълго време е наречена и на писателя М. Е. Салтиков-Шчедрин.
Когато Москва става столица на Русия, значението на библиотеката донякъде намалява, но въпреки това тя остава стожер на писмеността и науката в страната. Сред ценните колекции, които притежава, са например личните библиотеки на Волтер и Дидро. Общо разполага с близо 40 млн. тома.
Руската национална библиотека притежава най-много книги на руски език в страната. По този показател изпреварва московската Руска държавна библиотека, която е и най-голямата
Фондовете на библиотеката се помещават в няколко сгради в Санкт Петербург, като най-известната сред тях е на Екатерининския институт на благородните девици – училище, което спада под ордена на св. Екатерина и което е открито също в края на 18. век. Постройката, изградена в стила на класицизма, е превърната в болница през Втората световна война, а църквата към училището пък става склад. Сега е концертна зала, а целият институт е храм на книгите – дом на Руската национална библиотека.