Макаревич родился в 1953 году в Москве. С детства играл на гитаре и фортепиано. В 1968 году с одноклассниками организовал ансамбль The Kids. Спустя год появилась группа Time Machines, которая исполняла кавер-версии песен The Beatles и The Rolling Stones. В 1974 году Time Mashines была переименована в "Машину времени".
В 1971 году поступил в Московский архитектурный институт, через три года был отчислен, как считается, из-за занятий порицаемой в то время рок-музыкой. В 1977-м все-таки окончил вечернее отделение института (получил диплом художника-графика и архитектора).
Группа "Машина времени" продолжает свою деятельность. За полстолетия коллектив выпустил около 30 альбомов. Макаревич является основным автором текстов, а также композитором и исполнителем значительной части песен коллектива.
В 1980–1990-х Макаревич выступал с сольными бардовскими проектами. В 2001 году он организовал проект "Оркестр креольского танго", который играет джаз, блюз, босса-нову, румбу, свинг и шансон. Независимо от "Машины времени", музыкант издал еще более 20 сольных альбомов, среди которых "Песни под гитару", "Старая машина", "Облака", "Идиш-джаз" и другие.
В 2019 году Макаревич женился четвертый раз – его супругой стала израильская бизнесвумен Эйнат Кляйн, которая младше музыканта на 30 лет. От предыдущих отношений у музыканта есть трое детей: две дочери и сын.