Родился в Украине в Каменец-Подольском 20 мая 1948 года в семье военного медика Иосифа Веллера. Детство провел в офицерских гарнизонах Дальнего Востока и Сибири. С золотой медалью окончил школу в белорусском Могилеве, поступил на филологический факультет Ленинградского университета.
Пробовал себя в разных профессиях: от пионервожатого и учителя до матроса, рабочего-бетонщика и перегонщика скота из Монголии в Бийск.
В 1978 году короткие юмористические рассказы Веллера начинают публиковаться в ленинградских газетах, в 1983-м появляется первая книга – сборник "Хочу быть дворником". Благодаря рекомендациям Бориса Стругацкого и Булата Окуджавы становится членом Союза писателей СССР. В 1993-м вышла в свет самая известная книга Веллера "Легенды Невского проспекта" (тираж – 800 тысяч экземпляров).
Произведения Веллера переведены на английский, немецкий, французский, итальянский языки. Писатель неоднократно читал лекции по современной русской прозе в университетах Милана, Иерусалима, Копенгагена.
Веллер живет в Таллинне и Москве. Женат, есть дочь Валентина (1987).
