Acteur, il a incarné l'entraîneur de Rocky ainsi que le Pinguin dans "Batman". Il est devenu le premier homme à remporter deux prix du meilleur acteur dans un rôle secondaire aux Saturn Awards.
En 1929, il a rejoint la compagnie de théâtre new-yorkaise, Eva Le Gallienne Civic Theatre. Il a été déchargé de l'armée en 1994 pour filmer "Les Forçats de la gloire".
Il a remporté plusieurs prix aux Emmy Awards et a reçu deux nominations pour des Oscars.
Il a été marié à sa première femme, Helen Derby, de 1933 à 1935. Son quatrième mariage, avec Kaja Sundsten, a duré 46 ans.
Il a joué dans l'adaptation cinématographique de "Des souris et des hommes", film dans lequel Aaron Copland a composé la musique.