张子林的早期生涯从1980年7月至1984年9月，他在黑龙江八一农垦大学农经系财务与会计专业学习。随后，他进一步深造，1984年9月至1987年7月在黑龙江省社会科学院攻读农业经济专业研究生。1987年7月至1989年12月，他在黑龙江省委农工部合作经济处担任科员，期间还曾于1990年3月至1991年2月挂职担任尚志市苇河镇党委副书记，以及1991年2月至12月在尚志市政府办公室任副主任。
1991年12月至1992年12月，张子林在黑龙江省农委合作经济处晋升为主任科员，随后在1992年12月至1993年3月期间，他以挂职锻炼的身份担任黑龙江省浆果办综合科科长。1993年3月至1995年11月，他担任黑龙江省龙田贸易公司的经理。1995年11月至1996年10月，他在黑龙江省农委综合处任职主任科员，接着在2000年6月至2004年6月期间，他先后在黑龙江省农办农村政策体改处、农村改革试验区办公室等多个岗位担任副处长或主持工作的副主任。
在2001年1月至2004年6月，张子林的职务进一步提升，同时担任农村改革试验区办公室、县域经济办公室、劳动转移办公室主任。2002年1月至7月，他参加了省委组织部厅级后备干部境外培训班的学习。2004年6月至2008年1月，他担任黑龙江省农委办公室主任。2008年1月至2009年1月，他转任黑龙江省纪委派驻机构工作办公室副主任。2009年1月至2010年1月，他晋升为副厅级检查员和监察专员，并继续担任派驻机构工作办公室主任。
从2010年1月至2011年10月，张子林的职务进一步扩展，担任黑龙江省纪委的副厅级检查员、监察专员、副秘书长以及办公厅主任。最后，他在2011年10月成为齐齐哈尔市委常委、纪委书记，至今仍在此职位上。
张子林，新中国水利事业的奠基人之一。北京水利水电科学研究院（今中国水利水电科学研究院）自1958年合并组建后首任院长。先后担任农业部、水利部的农田水利局局长、水利部水利科学研究院院长和中科院、水利电力部水利水电科学研究院院长、北京水利水电学院院长等领导职务。