Vervolgens werd hij opgeroepen voor het Amerikaanse leger en diende hij tijdens de Tweede Wereldoorlog voor het Medical Corps. Na de oorlog keerde hij terug naar het burgerleven en leerde hij verder als acteur. Zijn Broadway debuut beleefde Wallach in 1945 met de productie Skydrift.
Daar ontmoette hij zijn vrouw, actrice Anne Jackson. Samen waren ze een groot succes op het podium, maar echte bekendheid verwierf Wallach pas op het witte doek. Zijn filmcarrière ging van start met het in 1956 gemaakte Baby Doll, waarin hij de hoofdrol speelde. Vervolgens was hij in vele grote producties te zien, waaronder The Magnificent Seven, How the West Was Won, How to Steal a Million en uiteraard ook The Good, The Bad and The Ugly.
In 2010 werd Wallachs acteercarrière bekroond met een speciale Oscar, omdat hij een ware kameleon is, die zonder moeite een grote verscheidenheid aan personages speelt en altijd zijn onimiteerbare stempel op een rol drukt.
Wallach overleed op 98-jarige leeftijd en laat zijn vrouw Anne Jackson en drie kinderen achter.