Джефф Фэйи появился на свет 29 ноября 1952 года в Олине, расположенном в западной части штата Нью-Йорк, в многодетной семье. Имеет ирландские корни. Будущий актер был шестым из тринадцати детей в семье Фэйи. Его мама Джейн занималась домашним хозяйством и воспитанием многочисленных отпрысков, а отец по имени Фрэнк продавал одежду. В 17 лет Джефф сбежал от родителей и поехал на Аляску автостопом. Также путешествовал по Гималаям.
Фэйи занимался балетом в школе Джоффри, где получил полную стипендию. В 25 лет он впервые вышел на сцену, а позже стал преподавателем бальных танцев.
Кинодебют Джеффа состоялся в 1968 году, когда он принял участие в съемках телевизионной новеллы "Одна жизнь, чтобы жить", исполнив роль Гэри Корелли. А широкую известность актер получил после роли в картине "Грайндхаус" и многосерийных проектах "Остаться в живых" и "Мыслить как преступник".
Фэйи имеет социально активную позицию, он два года находился в Афганистане, где участвовал в открытии Американского университета в Кабуле. Также актер стал создателем проекта помощи бездомным детям.