Юрий Гребенщиков появился на свет 12 июля 1937 года в Екатеринбурге, который в те годы носил название Свердловск. Мальчик был ребенком войны, его отец – геолог по специальности – отправился на фронт, оставив мать с двумя детьми. Семья терпела лишения и голод. Отцу удалось вернуться после окончания войны. Он записал сына в гимназию, научил читать, увлек спортом, брал с собой на рыбалку.
В старших классах Юрий стал ходить в драматический кружок и ужасно заинтересовался этим. Оказалось, что мальчик обладает отличным вокалом, а также умеет играть на гитаре, после чего ему стали перепадать роли поющих персонажей.
Однажды на родину Юрия приехала труппа Школы-студии МХАТ, которая проводила отбор абитуриентов, в числе которых и оказался Юрий. После учебы Гребенщиков попал в московский драмтеатр, где его наставником стал режиссер Анатолий Васильев. Участие Гребенщикова в его спектаклях произвело фурор и прославило актера не только в театральном мире: на него стали заглядываться и кинорежиссеры.
В начале 1980-х годов Юрий сыграл в нескольких известных картинах. В основном, это были второстепенные роли, но исключительно благородных персонажей: образ Юрия не вязался с отрицательными героями. Одной из любимых ролей Юрия среди поклонников стал образ писателя и военного Дмитрия Медведева в фильме «Отряд специального назначения».
Актер дважды был женат на актрисах. После второго брака с Натальей Орловой в 1972 году у него родился сын, ныне известный актер Кирилл Гребенщиков.
25 января 1988 года актера, который шел домой пешком после творческой встречи, сбил автомобиль. Четыре месяца врачи боролись за его жизнь, но спасти актера не удалось. Он скончался в реанимации, так и не придя в сознание.