Muzeum Akordeonu nieprzypadkowo powstało w sercu Kaszub. Muzyka akordeonowa ma tu długą tradycję a sam instrument doczekał się żargonowych określeń tj: świnia, kwecz, czy kaloryfer. Instrument ten na stałe zagościł w szeregach kaszubskich kapeli. O popularności akordeonu w naszym regionie świadczą także odbywające się od 2006 r.,  podczas Dnia Jedności Kaszubów, próby pobicia rekordu w jednoczesnej grze na tym instrumencie. Aktualny rekord ustanowiony został w 2013 roku w Kościerzynie, przy udziale 281 muzyków.

Muzeum Akordeonu w Kościerzynie otwarte zostało 16 listopada 2010 roku, jako oddział Muzeum Ziemi Kościerskiej im. dra Jerzego Knyby w Kościerzynie. Pierwsze rozmowy na temat jego utworzenia miały miejsce w kwietniu 2009 roku pomiędzy władzami miasta Kościerzyny i dyrekcją Muzeum Ziemi Kościerskiej oraz Pawłem Nowakiem – akordeonistą i kolekcjonerem zamieszkałym w Sulęczynie.


Na początku 2010 roku Muzeum Ziemi Kościerskiej pozyskało dofinansowanie od Ministra Kultury i Dziedzictwa Narodowego na zakup wyposażenia do nowego oddziału. Przez cały ten roku trwały prace nad realizacją projektu utworzenia Muzeum Akordeonu, w których uczestniczyli zarówno pracownicy MZK jak też pomysłodawca przedsięwzięcia – Paweł Nowak.

Od momentu otwarcia w 2010 roku do grudnia 2013 roku odział miał swoją siedzibę w Kościerskim Domu Kultury przy ul. Długiej 31. Od stycznia 2014 roku Muzeum Akordeonu mieści się na parterze budynku ratusza, przy ul. Rynek 9 w Kościerzynie. Jest to pierwsze w Polsce muzeum akordeonu i instrumentów pokrewnych.