Graves apareceu em mais de 70 filmes, programas de televisão, e filmes televisivos durante a sua carreira. Em 1955, Graves juntou-se à série de televisão da NBC Fury, como o rancheiro e pai solteiro adoptivo, Jim Newton. Graves também foi apresentado no filme da Segunda Guerra Mundial de 1953, Stalag 17.
De 1960 a 1961, Graves estrelou como personagem principal Christopher Cobb em 34 episódios da série televisiva Whiplash. No enredo, Cobb é um americano que chega à Austrália na década de 1850 para estabelecer a primeira linha de diligência do país, usando um chicote em vez de uma arma para combater os bandidos que encontra. A série também estrelou Anthony Wickert. Graves também estrelou na série britânica Court Martial do ITC, interpretando o advogado do exército americano Major Frank Whittaker (um dos dois protagonistas americanos da série estrelou em frente ao Capitão David Young de Bradford Dillman), bem como papéis convidados em séries como Alfred Hitchcock Presents, Cimarron City, Route 66, e The Invaders (episódio “Moonshot”). Em 1967, Graves foi recrutado pelos Estúdios Desilu para substituir Steven Hill como actor principal na Missão: Impossível. Graves retratou o personagem icónico de Jim Phelps, o por vezes rabugento director da Impossible Missions Force, durante as seis temporadas seguintes da série. Após o fim da série em 1973, Graves desempenhou um papel de apoio do tipo cameo-tipo na longa-metragem Sidecar Racers in Australia, que foi lançada em 1975. Graves também fez uma aparição convidada na aula de novela adolescente de 74 em meados de 1974, interpretando ele próprio.
Graves foi elenco como Palmer Kirby na minissérie ABC de 1983, The Winds of War. Actuou em frente a Robert Mitchum, Jan Michael Vincent, Deborah Winters e Ali MacGraw no que se tornou em 1983, a segunda minissérie mais vista de todos os tempos (depois de Roots). Repronunciou o papel para a minissérie de 1988, Guerra e Memória. Durante este tempo, tornou-se o anfitrião da PBS’ Discover: The World of Science, baseado em Discover Magazine.
Depois de desempenhar papéis principalmente sérios nos anos 70, apareceu como Capitão Clarence Oveur nas comédias Airplane! e Airplane II: The Sequel.
Em 1988, uma greve de escritores de Hollywood resultou numa nova Missão: Série impossível a ser encomendada. Graves foi o único membro do elenco da série original que regressou como um regular, retomando o seu papel como Jim Phelps, embora outros (sobretudo Greg Morris, cujo filho Phil era um regular nesta versão) tenham aparecido como convidados. A série foi filmada na Austrália, e Graves fez a sua terceira viagem até lá para trabalhar como actor. A nova versão da Missão: Impossível durou duas temporadas, terminando em 1990. Reservando o seu trabalho em Missão: Impossível, Graves estrelou em dois filmes-piloto chamados Call to Danger, que foram uma tentativa de criar uma Missão: Série ao estilo Impossível, na qual Graves interpretou um agente governamental (o Gabinete de Recursos Nacionais) que recrutou civis com talentos especiais para missões secretas.
A versão dos anos 60 do piloto, de acordo com Patrick White em A Missão Completa: Dossier Impossível (que White relata ser na realidade o segundo piloto, mas Graves não estava envolvido no primeiro), é creditado a Graves o papel de Phelps vencedor; depois da Missão: Impossível terminou em 1973, Graves filmou uma terceira versão do piloto (esta estruturada como um filme feito para a televisão), mas não foi vendida como uma série. O conceito foi posteriormente utilizado na breve série de aventuras Masquerade.
p>Durante os anos 90, hospedou e narrou a série documental Biografia em A&E. Também actuou em vários filmes apresentados no Mystery Science Theater 3000, que subsequentemente apresentava piadas de corrida sobre o trabalho da Biografia de Graves e presumível rivalidade de irmãos com Arness. Os filmes que foram apresentados no Mystery Science Theater 3000 incluem SST: Death Flight, It Conquered the World, Beginning of the End, e Parts: O Horror do Clonus. O filme Killers from Space foi apresentado em The Film Crew, o seguimento de Michael J. Nelson ao MST3K. O próprio Graves parodiou o seu trabalho de Biografia no filme Men in Black II, apresentando uma exposição de televisão. Também interpretou o Coronel John Camden na série de televisão 7th Heaven.
Graves recusou-se a repetir o papel de Jim Phelps (interpretado por Jon Voight) no primeiro filme teatral de 1996 de Mission: Impossível, depois de o personagem se ter revelado um traidor e o vilão do filme. No filme, Phelps assassina três colegas agentes do FMI, e é morto num acidente de helicóptero no final, uma decisão que desapontou Graves e outros membros do elenco, e perturbou muitos fãs da série original.
Em 30 de Outubro de 2009, Graves foi homenageado com uma estrela no Hollywood Walk of Fame em 6667 Hollywood Blvd.
AirTran Airways apresentou Graves numa série de vídeos “Internetiquette” apenas na web em 2009, em que Graves apareceu num uniforme de piloto e faz referência às linhas clássicas do Airplane! Os vídeos fizeram parte de uma campanha da AirTran Airways para promover o seu acesso à Internet sem fios em voo.
No Verão de 2009, Graves assinou como porta-voz do grupo American Advisors Group de crédito hipotecário invertido. O projecto final de Graves estava a narrar o épico jogo de computador Darkstar: O Filme Interactivo, lançado a 5 de Novembro de 2010.