與金敬姬結婚10年后，張成澤開始在朝鮮勞動黨內擔任要職。1982年，他出任朝鮮勞動黨黨中央青少年事業(yè)部副部長。2002年，張成澤受金正日之命，“史無前例”地率團訪問韓國。
2003年7月，叛逃到韓國的朝鮮高官黃長燁在韓國國會作證時說：“若金正日體制垮臺，最有可能接班的是張成澤，他是事實上的朝鮮第二號人物。”
2004年，金正日的妻子高英姬去世，朝鮮圍繞繼承人的問題產(chǎn)生內部矛盾。據(jù)傳張成澤介入了權力繼承之爭，被金正日“逐出”平壤，但很快“雨過天晴”。兩年后，張成澤又被召回。2006年，他率團訪問中國。2007年，他晉升為朝鮮勞動黨中央行政部部長。
張成澤被稱為“關鍵先生”，路透社2008年首次稱其為朝鮮事實上的“第二號人物”。
隨著權力代際交替壓力的增加，作為金正日最信任的妹夫，張成澤在2010年出任國防委員會副委員長之職，晉身朝鮮最高領導層。金正日在臨死之前一個月，授予張成澤大將軍銜。
他的哥哥張成佑和張成吉也是軍隊的高級將領。
2月24日，張成澤佩戴大將肩章，身著軍裝，跟隨金正恩在錦繡山紀念宮內向金正日遺體致哀。有消息人士說，2011年12月15日金正日去世時，張成澤是在其身邊接受遺命的“顧命大臣”。
被稱為金正恩“軍部家庭教師”的李英浩近期突然去職。韓國政府消息人士分析這位擁有次帥軍銜的總參謀長下臺是“勞動黨行政部部長張成澤和金敬姬在其中發(fā)揮了絕對的作用”。
在姑母金敬姬和姑父張成澤的幫助下，金正恩先后在黨（第一書記）、政（國防委員會第一委員長、黨中央軍事委員會委員長）、軍（最高司令官）鞏固了地位。韓國政府認為，張成澤幫助鏟除了李英浩等可能在金正恩鞏固權力過程中成為絆腳石的高層人士。