I 60'erne og 70'erne indgik han i det Los Angeles Rams' berygtede 'Fearsome Foursome'-forsvar. Hvor han spillede alle hans 15 år år som aktiv spiller. 14 af de år blev han udvalgt til Pro Bowl.
I hans karriere lavede han 94 sacks, og han blev efter at have trukket sig tilbage som sportsmand optaget i Pro Football Hall of Fame i 1982
Herhjemme er Merlin Olsen dog nok mest kendt for sin rolle i tv-serien ” Det lille hus på prærien” hvor han spillede Jonathan Garvey i 51 afsnit. Han er i football kredse blevet kendt som en yderst sympatisk person og vil blive husket i mange år.