張兆輝生於清貧家庭，家有四兄弟姊妹。小時候居於沙田美林邨附近的木屋區。他曾就讀沙田公立學校和模範英文中學。在學時讀書成績一般，小四之後因為愛上足球運動而無心向學。中五畢業前，其英文科老師建議他報考無綫電視藝員訓練班，目的在於增廣見聞。[註 4]他之後成功投考第11期無綫電視藝員訓練班（1982年），同期出道者還有梁朝偉、周星馳、吳鎮宇、李子雄等等。出道初期他都是在無綫連續劇裡擔任跑龍套的小角色，後來被安排在處境喜劇《香港八五》飾演「順嫂」次子張鏘，一直到1986年才在《神勇CID》一劇中擔任第一男主角。自此張兆輝不斷參演一些一綫角色，並在電影中客串。於2002年拍攝完《雲海玉弓緣》之後離開無綫。其後於2011年獲無綫邀請回巢拍攝《結·分@謊情式》。
張兆輝的電影作品多是在2000年後才較多，比較有名的是杜琪峯執導的《大隻佬》、《大事件》、《黑社會》、《黑社會以和為貴》、《放·逐》等電影，而2014年的《恐怖在線》便令張兆輝榮獲兩個美國影展的最佳男主角殊榮，首當電影第一男主角即成為雙料影帝。
