Joel Silver wuchs in South Orange im Staat New Jersey auf und studierte an der New York University. Als Student produzierte er sein Filmdebüt, den Kurzfilm Ten Pin Alley. Nach dem Studienabschluss zog er nach Los Angeles und stieg als Assistent von Lawrence Gordon ins Filmgeschäft ein. Schon nach kurzer Zeit war er Leiter der Kinoabteilung der 'Lawrence Gordon Productions'.

In dieser Funktion arbeitete er an der Entwicklung, Produktion und am Marketing von Walter Hills Driver, aber auch an den Burt-Reynolds-Filmen Um Kopf und Kragen und Nobody is Perfect. Als Co-Produzent arbeitete er bis 1985 eng mit Regisseur Walter Hill zusammen.

Dann gründete er seine eigene Firma Silver Productions und schwamm sich mit dem Arnold Schwarzenegger-Film Phantom-Kommando frei. Die ebenso aufwändigen wie rasanten Action-Filme à la Zwei stahlharte Profis und Stirb langsam wurden sein Markenzeichen. Daneben produzierte er Komödien wie John Hughes' L.I.S.A. - Der helle Wahnsinn.

1988 wagte Joel Silver einen seltenen Ausflug vor die Kamera und spielte den Regisseur Raoul, der sich mit seinem Star Roger Rabbit in der ersten Szene von Robert Zemeckis' Falsches Spiel mit Roger Rabbit anlegt.

Für den Kabelsender HBO entwickelte er die TV-Serie Geschichten aus der Gruft, bei der er sich die Funktion als ausführender Produzent mit den Kollegen Richard Donner, David Giler, Walter Hill und Robert Zemeckis teilte. Die Serie heimste insgesamt zehn 'Cable ACE Awards' der 'National Academy for Cable Programming' ein, darunter den Preis für die Beste Spielserie.

Aus dieser Partnerschaft ging 1995 auch eine erste Kinoversion der Serie hervor: Ritter der Dämonen. Inzwischen ist der zweite Kinofilm zur Serie mit dem Titel Bordello of Blood abgedreht. Außerdem sind 13 weitere Folgen der TV-Serie in Arbeit.

1990 wurde Joel Silver vom Kinobesitzerverband 'NATO - National Association of Theater Owners' als 'Produzent des Jahres' ausgezeichnet. Außerdem wurde ihm der 'Image Award' der 'NAACP - National Association for the Advancement of Colored People' (Vereinigung zur Förderung der Farbigen) verliehen. Damit würdigte die NAACP die Tatsache, dass Joel Silver in seinen Filmen kontinuierlich eine große Bandbreite von Rollen mit Darstellern besetzt hat, die ethnischen Minderheiten angehören.

1993 wurde sein Beitrag zur Kinounterhaltung mit einem Stern auf dem Hollywood Boulevard, dem berühmten 'Hollywood Walk of Fame', geehrt.