ولد جيف فاهي في أوليان، نيويورك، وهو واحد من 13 طفلاً لجين (غالاغر) وفرانسيس توماس فاهي، اللذين كانا يعملان في متجر لبيع الملابس. هو من أصل أيرلندي. انتقلت عائلته إلى بوفالو عندما كان في العاشرة من عمره، حيث التحق بمدرسة الأب بيكر الثانوية. بعد تخرجه عام 1972 سافر حول العالم وقام بوظائف غريبة. كان أحد أفراد طاقم قارب صيد، وقاد سيارة إسعاف في ألمانيا، وعاش في كيبوتز في إسرائيل وقضى بعض الوقت في الهند. ثم عاد إلى بوفالو وانضم إلى مسرح Studio Arena. ومن هناك ذهب إلى مدينة نيويورك، حيث درس مع ميرا راستوفا، وبدأ في تقديم المسلسلات المسرحية والتليفزيونية خارج برودواي. أسس شركة إنتاج وأنتج عروض خارج برودواي من مسرح رافت في مسرح رو. اكتسب الاهتمام لأول مرة كممثل في الأفلام السينمائية في فيلم سيلفرادو للمخرج لورانس كاسدان (1985)، والذي لعب فيه دور تايري، نائب بريان دينيهي، وهو قاتل بدم بارد ومتعطش للانتقام. قام ببطولة المسرحية التليفزيونية الحية الشهيرة The Execution of Raymond Graham (1985) وسلسلة TNT المصغرة "44 يومًا". قام ببطولة أكثر من عامين في المسلسل النهاري One Life to Live (1968). ظهر في إحياء مسرحية "بريجادون" في برودواي، وقام بجولة مع "أوكلاهوما"، وأدى في باريس في "قصة الجانب الغربى" وفي لندن في "الأيتام" مع ألبرت فيني.