Connu surtout pour son rôle de Michael Scott, le patron en mal d'attention, dans la série The Office de NBC, il s'est fait connaître des téléspectateurs en tant que correspondant du Daily Show de 1999 à 2005. Il a fait sa percée sur grand écran dans le film The 40-Year-Old Virgin (2005). Il a également joué dans Bruce Almighty, Little Miss Sunshine, Anchorman et Beautiful Boy.
Il a grandi avec trois frères aînés et a travaillé comme facteur avant de rejoindre une compagnie de théâtre pour enfants. Il a ensuite commencé à se produire avec The Second City, où il a rencontré son futur partenaire du Daily Show, Stephen Colbert.
Il a fourni sa voix pour Gru dans les films Despicable Me et pour le maire dans le long métrage Horton Hears a Who ! de 2008. Son interprétation de John du Pont dans le drame Foxcatcher en 2014 lui a valu une nomination à l'Oscar du meilleur acteur.
Il a épousé Nancy Walls en 1995 et ils ont deux enfants, Annie et Johnny.
Il a joué le rôle de Donald Rumsfeld dans le film Vice de 2018.
