Początki biblioteki gdańskiej sięgają schyłku XVI wieku, kiedy to ze zbiorów klasztoru franciszkańskiego oraz księgozbioru włoskiego wygnańca, markiza d’Orii, została utworzona w 1596 r. biblioteka Rady Miejskiej (Bibliotheca Senatus Gedanensis).

Od 1793 r. była ona Biblioteką Miejską.

Na początku XIX w. księgozbiór, liczący wówczas 55 tys. woluminów, został przeniesiony do kościoła św. Jakuba, a w 1905 r. do nowo wybudowanego budynku przy ul. Wałowej. W 1939 r. biblioteka liczyła 245 tys. tomów.

Historia bibliotekarstwa publicznego w powojennym Gdańsku zaczęła się w kwietniu 1945 r. Wtedy to, działający z ramienia grupy operacyjnej Ministerstwa Oświaty, dr Marian Pelczar dokonał wstępnego zabezpieczenia zbiorów bibliotecznych, znajdujących się w uszkodzonym gmachu Stadtbibliothek przy ul. Wałowej. 9 kwietnia 1945 r. ówczesny prezydent Gdańska, Franciszek Kotus-Jankowski, wręczył doktorowi Pelczarowi nominację na dyrektora Biblioteki Miejskiej. Niemal natychmiast przystąpiono do organizacji wypożyczalni miejskich.

Pierwszą miejską wypożyczalnię publiczną otwarto w Oliwie 22 lipca 1945 r. Kolejne dwie zorganizowano jesienią tego roku – były to: filia w Zarządzie Miejskim w Gdańsku (1200 wol.) oraz placówka na Oruni z księgozbiorem liczącym 400 tomów.

Do końca 1949 r. w Gdańsku działało już 8 filii bibliotecznych.
W 1946 r. w Bibliotece Miejskiej wyodrębniono dwa działy: Naukowy i Oświatowy. Z tego ostatniego wywodzi się gdańskie bibliotekarstwo publiczne.
W 1949 r. (a więc gdy funkcjonowały już placówki powiatowe i gminne) MKiS zleciło zadanie zorganizowania Wojewódzkiej Biblioteki Publicznej (wieńczące dzieło tworzenia sieci bibliotek powszechnych za Ziemi Gdańskiej) doktorowi Kazimierzowi Tymeckiemu, dyrektorowi MBP w Gdyni. WBP powstała w 1951 r. Jej pierwsza siedziba znajdowała się w Gdyni, następna w Gdańsku-Wrzeszczu.
W 1955 r. Polska Akademia Nauk przejęła Dział Naukowy Biblioteki (330 tys. woluminów), tworząc Bibliotekę Gdańską PAN, natomiast zbiory należące do Działu Oświatowego (99 tys. wol.) stały się podstawą do powołania Wojewódzkiej i Miejskiej Biblioteki Publicznej.

Szybki rozwój sieci bibliotecznej nastąpił w latach sześćdziesiątych, kiedy to na Przymorzu uruchomiono 5 filii. Księgozbiór, jakim wtedy dysponowała biblioteka, liczył już około 400 tys. woluminów.
W latach siedemdziesiątych na terenie Gdańska przybyły 3 biblioteki, w osiemdziesiątych – 5, w ostatnich latach – kolejne 3.
Rok 1975 przyniósł zasadnicze zmiany w administracyjnym podziale kraju – m.in. likwidację powiatów. W wyniku tych posunięć zmienił się również statut Biblioteki. Od lipca 1975 r. funkcjonowała ona znów jako Wojewódzka Biblioteka Publiczna, ale pracująca w oparciu o 3 oddziały – w Kościerzynie, Tczewie i Wejherowie oraz sieć bibliotek miejskich, miejsko-gminnych i gminnych. Z początkiem 1979 r. zmieniła układ na dwustopniowy – bez oddziałów.
We wrześniu 1994 r. Wojewódzka Biblioteka Publiczna w Gdańsku przyjęła imię Josepha Conrada-Korzeniowskiego.

24 listopada 2003 r. uchwałą Sejmiku Województwa Pomorskiego nastąpiła zmiana nazwy biblioteki na Wojewódzką i Miejską Bibliotekę Publiczną im. Josepha Conrada-Korzeniowskiego w Gdańsku.
Biblioteka Główna kilkakrotnie zmieniała siedzibę. Najdłużej mieściła się w Domu Uphagena przy ul. Długiej 12, potem na ul. Piwnej, zaś w 1981 r. otrzymała obiekt, zajmowany dotąd przez Wojewódzką Radę Związków Zawodowych przy ul. Kalinowskiego 5/6 (obecnie Targ Rakowy), który zajmuje do dziś.

Aktualnie WiMBP tworzą: 28 placówek bibliotecznych w Gdańsku oraz czytelnie i pracownie specjalistyczne, między innymi: Biblioteczny Ośrodek Informacji, Pracownia Regionalna, Ośrodek Czytelnictwa Chorych i Niepełnosprawnych, American Corner, Pracownia Komiksowa, Kolekcja Conradowska.

WiMBP pełni nadzór merytoryczny nad siecią bibliotek publicznych całego województwa pomorskiego w liczbie 356.