Dzieciństwo i młodość spędził w Łodzi, gdzie kształcił się w liceum muzycznym i grywał pierwsze koncerty z zespołem Tiger Rag. W 1961 r. rozpoczął studia w PWSM w Warszawie w klasie skrzypiec, a samodzielnie opanował grę na saksofonie. Nawiązał wówczas współpracę ze znanymi zespołami jazzowymi Z. Namysłowskiego i A. Trzaskowskiego, z którymi występował m.in. na Jazz Jamboree w USA.
W latach 60. grał w Kwintecie Krzysztofa Komedy. W maju 1973 r. zagrał pożegnalny koncert w Polsce i kilka miesięcy później, razem z żoną Urszulą Dudziak wyjechał do Stanów Zjednoczonych, gdzie podpisał kontrakt płytowy z Columbia Records. Tam rozpoczęła się jego wielka kariera jako współtwórcy nowojorskiego tzw. fusion jazzu, będącego mieszanką wielu stylów z elementami rocka, rapu, hip-hopu. W 1989 r. założył zespół Urbanator, a na amerykańskich scenach – także w Carnegie Hall – oraz w prestiżowych klubach grał z największymi gwiazdami światowego jazzu.
Mieszkał w Szwecji, Niemczech i Szwajcarii, a od 1973 r. w Nowym Jorku. Często powracał do Polski, a także do Łodzi i tak jest do dziś, gdzie regularnie organizuje warsztaty jazzowe. Michał Urbaniak napisał także muzykę do ponad 20 filmów fabularnych i zagrał główną rolę w obrazie „Mój rower” w reż. Piotra Trzaskalskiego.
