Jake Gyllenhaal wurde am 19. Dezember 1980 als Sohn des Regisseurs Stephen Gyllenhaal und der Produzentin/Autorin Naomi Foner in Los Angeles geboren. Die Familie seines Vaters ist schwedischer Herkunft und gehört zum schwedischen Adel (Nobilitierung 1652). Seine Familie mütterlicherseits ist russisch-jüdischer Herkunft. Jake ist der jüngere Bruder von Maggie Gyllenhaal, die ebenfalls Schauspielerin ist. Die Schauspielerin Jamie Lee Curtis ist seine Patentante . 1998 absolvierte er die Harvard-Westlake School in Los Angeles und begann anschließend ein Studium an der Columbia University, das er jedoch zwei Jahre später abbrach, um sich ganz auf seine Schauspielkarriere zu konzentrieren.