Das erste Album, bei dem er mit Muddy im Studio war, war dessen letztes Album für Chess Records, „Unk In Funk“. Hier fällt er allerdings noch wenig auf. Bei „Rollin & Tumblin“ greift der Meister selbst zur Slide-Gitarre und lässt die alte Leidenschaft erahnen. Ansonsten teilen sich Margolin und Luther „Guitar Jr.“ Johnson die Arbeit an den Gitarren. Prägnanter wurden Margolins Beiträge zum Sound der Waters Band spätestens bei den von Johnny Winter produzierten Comebackalben „Hard Again“, „I’m Ready“, „Muddy Mississippi Waters Live“ und „King Be“.
Nach 1980 jammte Margolin so ziemlich mit jedem Bluesstar, ging mit Clapton ebenso auf Tour wie mit den Allman Brothers oder den Stones. Aber auf Platte dauerte es eine Weile, ehe er über Insiderkreise hinaus bekannt wurde. Das gelang mit den drei Alben, die er ab 1993 für Alligator Records aufnahm. Besonders „My Blues & My Guitar“ überzeugt hier durch seine zeitweilige jazzige Leichtigkeit.
Doch vielleicht sind es noch mehr seine Gastauftritte auf den Alben anderer Musiker, die wirklich zeigen, wie tief Margolin die Tradition der Bluesgitarre verstanden hat: Sein Stil passt ebenso zum rauen Chicago Blues von Koko Taylor, Billy Boy Arnold oder Hubert Sumlin wie zum Rhythm & Blues von Nappy Brown oder dem Boogie Woogie und Pianoblues von Ann Rabson. Aber auch mit den Italienern der Mike Sponza Band gelangen in den letzten Jahren tolle Aufnahmen.