Với tư cách là một diễn viên điện ảnh, Klugman là hình ảnh của một người đàn ông bình thường. Ông là một trong những người tiên phong trong lĩnh vực diễn xuất truyền hình vào những năm 1950 và được nhớ đến nhiều nhất với công việc trên truyền hình vào những năm 1970 với vai Oscar Madison trong loạt phim "The Odd Couple" (1970) và với vai giám định y khoa trong loạt phim "Quincy M.E." (1976).