Diplômé de l'Evanston Township High School, Jeremy Piven étudie le théâtre à l'Harand Theater Camp d'Elkhart Lake, où il interprète Bernardo dans la pièce West side story. Il apprend également le métier de comédien au Piven Theatre Workshop, fondé par ses parents Byrne et Joyce Piven.
Sa carrière d'acteur au cinéma débute en 1986 : Jeremy Piven apparaît dans les comédies pour adolescents Lucas de David Seltzer et One crazy summer de Savage Steve Holland. Dès lors, il joue des rôles de plus ou moins grande importance dans de nombreux films parmi lesquels : The Player (1992) de Robert Altman, Singles de Cameron Crowe, Bob Roberts de Tim Robbins, Heat de Michael Mann, Le Collectionneur (1997) de Gary Fleder, Very bad things de Peter Berg, Family man (2000) et Rush hour 2 (2001) de Brett Ratner, ou encore La Chute du faucon noir de Ridley Scott.
Jeremy Piven donne la réplique à celui qui fut son colocataire pendant quelques années, John Cusack. Ces derniers ont ainsi été partenaires dans Say anything... (1989) de Cameron Crowe, Les Arnaqueurs (1990) de Stephen Frears et Un amour à New York (2001) de Peter Chelsom.
|