Nacido en una familia de inmigrantes judíos en Brooklyn en 1928, Landau empezó a trabajar muy pronto, con 17 años, aunque no en la actuación, sino como caricaturista y dibujante en el diario New York Daily News. Cinco años después abandonó el periódico para ser actor. Durante un tiempo se ganó la vida en pequeños teatros e incluso en el off Broadway.
En 1955 decidió presentarse a las pruebas para ingresar en el Actors Studio. En su convocatoria hubo 2.000 solicitudes y solo dos actores lograron ser aceptados: él y Steve McQueen. En la escuela de interpretación de Lee Strasberg, Landau se hizo amigo de otro mito: James Dean (tiempo después Landau dio clase en la sede en Los Ángeles del Actors Studio y su alumno más brillante fue Jack Nicholson).
Ese año debutó en Broadway, y al siguiente en televisión, hasta que en 1959 apareció en dos películas: una sobre la guerra de Corea titulada La cima de los héroes, y Con la muerte en los talones. A pesar de rodar con Hitchcock, su carrera prosiguió con más fuerza en la televisión, lo que compaginó con pequeños papeles como el de Caifás en La historia más grande jamás contada y Rufio en Cleopatra.
Aunque era la primera opción para encarnar al señor Spock en Star Trek (rechazó la oferta), no fue esa la serie que le dio la fama, sino una de espías, Misión: Imposible, con la que se hizo popularísimo encarnando a Rollind Hand, el maestro del disfraz. Después siguió en la televisión, en series como The Outer Limits, Bonanza, Espacio: 1999 (show británico donde pudieron él y Bain volver a lucirse con personajes con continuidad), Colombo o Se ha escrito un crimen, que mezclaba con secundarios en películas como Ahora me llaman Mr. Tibbs.
A inicios de los ochenta era considerado un actor con talento pero sin trabajo, pero en 1983 volvió a la pequeña pantalla con la comedia Búfalo Bill y a los escenarios teatrales con Drácula, y ese lento ascender se disparó en 1988 gracias a Francis Ford Coppola y a su Tucker: un hombre y su sueño, que le facilitó su primera candidatura al Oscar y ganar su segundo Globo de Oro. Al año siguiente repitió candidatura al Oscar al encarnar al marido adúltero en Delitos y faltas, de Woody Allen.
Un lustro más tarde por fin obtuvo la estatuilla –y su tercer Globo de Oro– por resucitar a Bela Lugosi en Ed Wood. Landau empezó así otra gloriosa carrera, con títulos como City Hall, la sombra de la corrupción, Edtv, Rounders, la película de Expediente X, The Majestic, City of Ember, Hollywood: departamento de homicidios o la serie Sin rastro, con la que logró dos candidaturas más a los Emmy.
Entre sus últimos trabajos destacan su vuelta al mundo de Burton en Frankeweenie, El séquito –tanto en serie como en película– y Remember, de Atom Egoyan, el último estreno en el que se le vio en España (varias de sus últimas películas no han llegado a nuestras pantallas). Deja por estrenar en todo el mundo Without Ward, un drama de ciencia ficción.
De porte distinguido, alto, y con unas facciones muy peculiares, Martin Landau actuó la mayor parte de su vida con peluquín.