Макаревич народився 1953 року в Москві. Із дитинства грав на гітарі та фортепіано. 1968 року з однокласниками організував ансамбль The Kids. За рік з'явилася група Time Machines, яка виконувала кавер-версії пісень The Beatles і The Rolling Stones. 1974 року Time Mashines було перейменовано на "Машину времени".
1971 року вступив до Московського архітектурного інституту, за три роки його відрахували, як вважають, через заняття рок-музикою, яку в ті часи засуджували. 1977-го все-таки закінчив вечірнє відділення інституту (отримав диплом художника-графіка й архітектора).
Група "Машина времени" продовжує свою діяльність. Протягом пів століття колектив випустив приблизно 30 альбомів. Макаревич є основним автором текстів, а також композитором і виконавцем значної частини пісень колективу.
У 1980–1990-х Макаревич виступав із сольними бардівськими проєктами. 2001 року він організував проєкт "Оркестр креольского танго", який грає джаз, блюз, боса-нову, румбу, свінг і шансон. Незалежно від "Машины времени" музикант видав ще понад 20 сольних альбомів, серед яких "Песни под гитару", "Старая машина", "Облака", "Идиш Джаз" та інші.
2019 року Макаревич одружився вчетверте – його дружиною стала ізраїльська бізнесвумен Ейнат Кляйн, яка молодша за музиканта на 30 років. Від попередніх стосунків у музиканта є троє дітей: дві дочки та син.