Aby sięgnąć do korzeni muzeum, trzeba przenieść się w ostatnie dwudziestolecie XIX w., kiedy to powstało w Bydgoszczy Towarzystwo Historyczne Obwodu Noteckiego, którego celem miało być prowadzenie badań naukowych dotyczących regionu. Jednocześnie z pracami badawczymi rozpoczęto działalność zbieracką. Ilość zabytków wzrastała dość szybko, głównie dzięki hojności ofiarodawców. Zbiory ulokowano na chórze poklasztornego kościoła Klarysek, pełniącego wówczas funkcję remizy straży pożarnej. Od 30 listopada 1890 r. zostały one udostępnione publiczności, która mogła oglądać je w niedziele w godzinach od 11 do 13. Choć zbiór ten był określany mianem Muzeum, to jednak placówka nie posiadała umocowania prawnego.

Koncepcja utworzenia w Bydgoszczy muzeum doczekała się realizacji dopiero po objęciu miasta przez władze polskie. Dla potrzeb tworzącego się muzeum Magistrat przeznaczył budynek byłej Miejskiej Kasy Oszczędnościowej przy Starym Rynku pod nr 2. W wyniku współpracy organizatorów i Zarządu Miasta, dnia 5 sierpnia 1923 r., nastąpiło otwarcie nowej placówki kulturalnej noszącej nazwę Muzeum Miejskie. Pierwszym dyrektorem Muzeum został mianowany ks. J. Klein.

Nowopowstałe Muzeum Miejskie nie posiadało bogatych zbiorów, były to przede wszystkim zabytki z zakresu archeologii, historii, numizmatyki i etnografii. Najpilniejszym zadaniem było więc poszerzanie zbiorów. Z prośbą o zasilenie kolekcji władze zwróciły się do wielu osób. Rozpoczęto również poszukiwanie pamiątek cechowych. W swych zbiorach muzeum nie posiadało dzieł sztuki. Dlatego też, z inicjatywy prezydenta miasta Bernarda Śliwińskiego, nabyto pierwsze dzieła do zapoczątkowanej galerii obrazów. Zwrócono przy tym uwagę na pierwiastki rodzimej twórczości tkwiące w tradycji miasta. W związku z tą tradycją, zrodziła się chęć zgromadzenia w Muzeum Miejskim, w ramach ogólnej galerii malarstwa polskiego, kolekcji prac bydgoszczanina, Maksymiliana Antoniego Piotrowskiego.

Objęcie stanowiska dyrektora Muzeum przez historyka sztuki, dra Tadeusza Dobrowolskiego spowodowało intensywny rozwój działu sztuki. Wydany w 1929 r. katalog Miejskiej Galerii obejmuje 195 obrazów i 28 rzeźb, lista zaś twórców zawiera 96 nazwisk. 8 kwietnia 1937 roku wdowa po Leonie Wyczółkowskim przekazała do Muzeum Miejskiego, zgodnie z wolą artysty, zbiór jego prac – olei, akwarel, pasteli, rysunków i grafik oraz pamiątek osobistych, wyposażenia pracowni i mebli. Donacja obejmowała prace olejne, rysunki, akwarele, grafiki, wyposażenie pracowni malarsko-graficznej oraz pamiątki osobiste i odznaczenia, łącznie 942 pozycje.

Niemal równocześnie z tym wielkim darem, dzięki staraniom dra Witolda Bełzy, Konstanty Laszczka ofiarował kolekcję rzeźb. Oba te dary zostały wyeksponowane w budynku byłego Internatu Kresowego przy ul. Chodkiewicza.

Obok gromadzenia zbiorów, do podstawowych funkcji muzeum należy działalność wystawiennicza. Władze Bydgoszczy powołując do życia Muzeum Miejskie, chciały udostępnić ludności pamiątki z przeszłości miasta, zapoznać ze sztuką polską, uaktywnić twórców miejscowych. Archeologia bazowała głównie na dawnych zbiorach Towarzystwa Historycznego Obwodu Noteckiego, bowiem Muzeum nie prowadziło systematycznych prac wykopaliskowych.

Oprócz ekspozycji stałej Muzeum zorganizowało w latach 1923-1939 około 120 wystaw czasowych. Pomyślny rozwój Muzeum Miejskiego przerwał wybuch II wojny światowej.

Po objęciu Bydgoszczy przez okupacyjną administrację niemiecką miasto znalazło się na terenach włączonych do III Rzeszy. Przez okres około roku Muzeum podlegało opiece wyznaczonego przez władze kierownika, a następnie przywrócone zostało stanowisko dyrektora, funkcję tę objął dawny opiekun zbiorów Towarzystwa Historycznego Obwodu Noteckiego – dr Konrad Kothe.

Po rozpoczęciu okupacji Bydgoszczy zbiory Muzeum Miejskiego znajdowały się nadal w macierzystym budynku przy Starym Rynku. Po rozpoczęciu przez okupanta wyburzania zachodniej pierzei Starego Rynku rozpoczęła się tułaczka zbiorów, która trwała przez całą wojnę. Ostateczną siedzibą był budynek lombardu przy ul. Pocztowej i tam Muzeum doczekało wyzwolenia.

Na okres przypadający bezpośrednio po zakończeniu II wojny światowej, przeniesione zostały przedwojenne formy organizacyjne. Po wyzwoleniu Bydgoszczy spod okupacji hitlerowskiej, zdekompletowane zbiory Muzeum Miejskiego znajdowały się – jak wspomniano – w pomieszczeniach dawnego Lombardu przy ul. Pocztowej. W obliczu istniejącej sytuacji, pierwszoplanowym zadaniem było uzyskanie własnego gmachu. Uwzględniając potrzeby, władze miasta przeznaczyły na siedzibę Muzeum budynek byłej Lecznicy Miejskiej – ul. Gdańska 4.

W miarę upływu czasu, przy rosnącej ilości zbiorów, posiadany budynek stawał się zbyt ciasny. Nowe możliwości lokalowe przyniósł początek lat sześćdziesiątych. Po pożarze spichrzy przy ul. Grodzkiej, władze miasta postanowiły w dwóch, z trzech pozostałych, umieścić część zbiorów Muzeum im. L. Wyczółkowskiego. Po przeprowadzeniu szeroko zakrojonych prac adaptacyjnych zostały one oddane do użytku w lipcu 1964 r. Na przełomie XX/XXI w. wszystkie spichrze zostały poddane kapitalnemu remontowi.

Dalsze możliwości powiększenia bazy lokalowej otworzyły się w 1975 r., z chwilą powstania koncepcji przejęcia na potrzeby muzealne Wyspy Młyńskiej. Obecnie Muzeum Okręgowe im. L. Wyczółkowskiego dysponuje na tym terenie 5 obiektami.

Bydgoskie Muzeum jest placówką wielodziałową. W chwili otwarcia po wojnie istniały zalążki czterech działów, które z upływem czasu przybrały pełną formę. Jako pierwsze wykształciły się działy: Sztuki Polskiej, Leona Wyczółkowskiego i Archeologiczny. Dopiero na przełomie 1958/1959 r. zorganizowano Dział Historii. W 1966 r. z Działu Historii wyodrębniono Gabinet Numizmatyczny, przekształcając go z czasem w dział. W latach późniejszych z Działu Sztuki wyodrębnił się Dział Grafiki.

Jako trzy ostatnie powołane został do życia działy Etnografii, Muzyczny i Architektury Przemysłowej. Powyższa struktura istnieje do chwili obecnej. W Muzeum funkcjonują również działy i pracownie umożliwiające prawidłowe funkcjonowanie placówki. Należą do nich działy: Edukacji i Promocji, Inwentaryzacji, Konserwacji, Biblioteka oraz pracownie: plastyczna, fotograficzna.

W dniu 30 grudnia 2009 roku Muzeum Okręgowe im. Leona Wyczółkowskiego w Bydgoszczy, decyzją Ministra Kultury i Dziedzictwa Narodowego Pana Bogdana Zdrojewskiego, zostało wpisane do Państwowego Rejestru Muzeów po numerem 101.