Powstał 31 V 1982 z inicjatywy sympatyków jazzu na czele z Krzysztofem Szymańskim (prezes 1982-83), Marianem Szewerą, Krzysztofem Winiarskim, Markiem Rzeczkowskim (wymyślił nazwę i patrona), Jerzym Bałakutem, Grzegorzem Obstem (1983-2019 nieprzerwanie prezes, ob. Paweł Cichosz). Skupił ok. 50 członków. Za patrona obrano pochodzącego z Zamojszczyzny wybitnego, niewidomego pianistę jazzowego (zm. 1973). Siedziba klubu, popularna nazwa "Jazz Klub Kosz" (tablica przy wejściu) mieściła się do VII 2007 przy ul. Zamenhofa 5 (d. mykwa) w oryginalnie zaaranżowanej piwnicy (kiedyś słynne wiszące "do góry nogami" krzesła - pomysł i wykonanie W. Borowski i H. Szkutnik) z salką koncertową i barkiem. Był to lokal ZSMP, któremu Klub formalnie podlegał.
Od 1988 klub działa jako stowarzyszenie, wskutek czego na dwa  lata został wyrzucony przez ZSMP ze swojej siedziby (po powrocie - zastaliśmy tam tylko wilgoć, pajęczynę i sprzętową pustkę, nie ma fortepianu, wzmacniaczy, sprzętu muzycznego, nie ma). W 1988-90  mieścił się "kątem" przy Klubie Młodej Inteligencji, potem przy MDK. W 2007-2010 przejściowo w piwnicy przy Rynku Wielkim 2.
W inauguracyjnym koncercie 25 X 1982 wystąpił Stanisław Sojka, Tomasz Szukalski i  Zbigniew Wegehaupt. W ciągu kilkunastu miesięcy grali m.in. Zbigniew Namysłowski (28 X 1983), Janusz Muniak, "Novi Singers", "Laboratorium", Andrzej Zaucha z "Extra Ball", Kazimierz Jonkisz, "Vistula River Band", "Osjan", duet Alber - Strobel, Zdzisław Piernik, "Old Timers", "Ragtime Duo". W 1983 w X-lecie śmierci patrona zorganizowano pierwszy Jazz na Kresach. Później do Zamościa przeniesiono (1984) zaniechane przez Lublin Międzynarodowe Spotkania Wokalistów Jazzowych. Klub organizował też od 1999 Blues Festiwal. Oprócz tych imprez Klub zapraszał artystów jazzowych do amfiteatru (w 1988 Krzysztof Ścierański, najlepsza jazz-rockowa grupa z Węgier).
W l. 80. światek jazzowy bardzo wysoko cenił atmosferę zamojskiego klubu, zwłaszcza niepowtarzalne nocne jam session, a Zamość uznano za jeden z ważniejszych ośrodków życia jazzowego w Polsce. Miał też wówczas klub swoją wierną, stałą publiczność. Prezes PSJ nazwał zamojska piwnicę najlepszym klubem jazzowym w Europie wschodniej, kiedy indziej skromniej - najlepszym po tej stronie Wisły (do tej wersji przyznawał się też krytyk Tomasz Tłuczkiewicz). W "Koszu" koncertowali wszyscy znani polscy muzycy jazzowi, a także wielu wykonawców zagranicznych. W koncercie jubileuszowym (1993) wystąpił amerykański saksofonista Carter Jefferson (grał w legendarnym "Art Blakey Jazz Messengers"). W "Koszu" grał też m.in. w 1994 podczas "Zaduszek Jazzowych" Carlos Johnson czołowy przedstawiciel chicagowskiego bluesa. Byli muzykami w swoim czasie współpracującymi m.in. z Dizzym Gillespim, Georgem Bensonem, Chackiem Khanem, w 1995 "Vanquard School" z Barcelony, a w 1997 Indonezyjczyk z Holandii Nippy Noya - wirtuoz instrumentów perkusyjnych (grał z McLauhlinem, Stan Getzem, Astrud Gilberto, Eric Burdonem).
Przy klubie istniało kilkanaście zespołów muzycznych: "Grupa Baskets Boys" - jazz-rock (1983-85), "North Padwa Jazz Band" - jazz tradycyjny, grupa ASH - jazz-rock (1984-90, III m. na prestiżowym "Jazz Juniors 89" w Krakowie), Duet Fil - Kolano (1984-85), "Katharsis" (1984-85), "Modus", "Hecklers Blues" (1984-92), Sylwester Gumiela Kwartet ("Modus"), "Kopyto Blues Band" (1986-88), "Green Revolution" (1987), "Fil Conception" (1987), kwartet J. Bałakuta (1988), "Cookie Jazz Trio", a także grupa Pawła Dudzińskiego "Performer".
Klub od 2010 mieści się w Bramie Szczebrzeskiej, w 2020 obie imprezy jazzowe zastąpił "Zamość Jazz Festival - Prologue". Klub poszerzył działalność o wystawy plastyczne, a w 2014 i 2016 zorganizował plenerowy pokaz mody "Jazz Fashion" - największego tego typu wydarzenia w regionie (udział projektantek pochodzących z Zamościa Agnieszki Splewińskiej, Magdy Samborskiej, Anny Pogudz).


 * Wśród założycieli: Jerzy Bałakut, Ryszard Bałakut, Waldemar Bochniarz, Małgorzata Borowska, Winicjusz Borowski, Lech Bronicki, Bożena Dudzińska, Paweł Dudziński, Sylwester Gumiela, Jacek Konstantynowicz, Roman Malinowski, Grzegorz Obst, Zbigniew Pieczykolan, Marek Rzeźniak, Maria Rzeźniak, Zbigniew Skowera, Marek Sołowiej, Piotr Stopa, Barbara Strumidło, Barbara Szarafin, Marian Szewera, Małgorzata Szymańska, Krzysztof Szymański, Barbara Wiatrzyk, Krystyna Winiarska, Krzysztof Winiarski, Stanisław Ziarkiewicz.
 * 10 II 1984 na zebraniu założycielskim (52 os.) nazwa Klub Jazzowy M. Kosza, jesienią zarejestrowany jako Klub Jazzowy przy ZW ZSMP.
 * Akustyka i klimat tej nie wielkiej klubowej sali sprawia, że muzyka dostaje dziwnej wibracji i jest w tym jakaś magia - Waldemar Baranowski z "After Blues".
 * Trzysta osób na imprezie to zapełniona widownia, schody zatłoczone od góry do dołu i full w barze, gdzie na coś do picia oczekuje trzywarstwowa kolejka. Nie wyobrażam sobie, aby nie deptali mi po głowie, gdy gram. To jest specyfika klubu i trzeba być zakręconym, żeby przez dwanaście lat za naprawdę małe pieniądze wlec się na koniec Polski. Młodych rozumiem, ale siwe głowy... - wzdycha pianista Andrzej Jagodziński.
Drugi rzut słuchaczy kwitnie na trawnikach przed klubem. Słuchają za darmo, a popijają bez marży. Wino markowe na mecie jest cenie jednego dużego i małego piwa w Koszu. W przerwach na skwerek po łyk świeżego powietrza wychodzą  artyści.
("Gazeta w Lublinie" z 30 V 1994)
 * Znakomitemu saksofoniście Carterowi Jeffersonowi otworzył się podczas koncertu wrzód żołądka. Nie mogąc załatwić przelotu do Stanów, zorganizowano kurs Radio-Taxi 919 (Czesław Jabłoński) do kliniki w Wiedniu, ze względu na pogarszający się stan zdrowia pozostawiony został w klinice krakowskiej, gdzie zmarł.
 * Powrót do przewentylowanych z ideologii pomieszczeń nastąpił pod koniec 1990. Klub uległ w międzyczasie dewastacji. Wiele rzeczy ktoś ukradł, pożyczył, połamał, tak jak fortepian, którego szczątki mogą być symbolem sił z jakimi ścierali się miłośnicy jazzu, symbolem głupoty gospodarzy tego lokalu. Lista strat jest o wiele dłuższa (...). Działacze ZSMP potraktowali to jako swoje. Część zniszczyli, sprzedali znajomym, a część wsiąkła. Jeszcze jeden chlubny wpis do księgi pamięci kuźni kadr politycznych kraju. (W. Kaźmierczak "Tygodnik Zamojski" 1990 nr 43)

 * "Jazz Fashion" odbył się 30 VIII 2014, pomysłodawcami byli Elżbieta i Grzegorz Obstowie oraz Łukasz Zwolan, prezentowano kolekcje zamościanek Agnieszki Nataszy Splewińskiej i Sonii Kitki oraz 12-letniej Gabrieli Łuczki.