在踏入演艺圈以前，戚玉武是广州体院的学生，因为身高和外形，被校友介绍去做兼职模特儿。经纪公司帮他报名参加“美在花城”。当时一心一意想做篮球运动员的他只是抱着去玩一下的心理参加了比赛，没想到一举夺魁，成为第六届“美在花城”的冠军。

但“美在花城”即使是拿了冠军的他也没有签约，仍然继续念书、打篮球，做兼职模特，甚至做模特的酬劳都没有因此而提高很多。

后来戚玉武报名参加新加坡“才华横溢出新秀”(广东赛区)比赛的动力，只是因为“冠军可以免费去新加坡旅游。”结果，他如愿以冠军的身份到新加坡参加总决赛。虽然没有夺冠，但却被制作人看中，留在新加坡当演员。

在新加坡演艺圈的前七年，戚玉武主要在接拍电视剧。幸运的是，他的“龙套”生涯没有持续太久，2004年，他在偶像剧《任我遨游》中扮演一个活力逼人的潜水教练，从此一炮走红。

戚玉武回内地拍摄的第一部电影是《画皮》，扮演妖精飞天蜥蜴，与周迅扮演的小唯有一段纠结的恋情，为小唯杀人，以供人心给小唯食用，最后因保护小唯，被降妖师杀死。

《画皮》超过两亿元人民币的票房让更多导演和制片人认识了戚玉武，也为他赢得出演武侠大片《锦衣卫》的机会。《画皮》、《锦衣卫》两部电影中都是反面角色，与戚玉武本人健康的形象形成巨大反差，对此戚玉武表示，自己也没有刻意想过去演怎样的角色，只要是令自己感动的剧本都会演，现阶段还有挑战喜剧的想法，田壮壮、宁浩、张艺谋等都是自己向往合作的导演。

2015年黄磊、李雪健主演的电视剧《嘿老头》中戚玉武饰演富二代白洋。