1988年，张涵予中央戏剧学院表演系毕业。

1999年，在好友傅彪介绍下，张涵予出演叶京导演的电视剧《梦开始的地方》，与陶虹合作，这是他的首部电视剧。2000年，参演冯小刚电影《没完没了》，饰演一个帮傅彪讨账的社会人，这是他出演的首部电影作品；2002年，在冯小刚电影《大腕》中，客串扮演精神病院里的IT专家。2004年，参演《天下无贼》，扮演一个化装成“E时代画家”的卧底干警。

2007年，张涵予在贺岁档电影《集结号》中首次担任男主角。

2009年9月，主演电影《风声》，扮演反面人物，与李冰冰、周迅两位美女有大量对手戏。

2011年，参演李仁港电影《鸿门宴》，首次出演武打戏饰演张良；8月，在《新水浒传》中饰演宋江。

2013年3月，零片酬出演管虎执导的电影《厨子·戏子·痞子》，同年主演《我爱的是你爱我》。

2014年，张涵予主演徐克执导的电影《智取威虎山》，12月24日上映。