张玉台,山东郯城人。
1968年毕业于北京航空学院(现北京航空航天大学)自动控制系,后在沈阳军区农场劳动锻炼。
1970年在中国科学院半导体研究所从事科研工作。
1977年在中国科学院院部机关工作。
1980年在国家科委工作,历任处长、办公厅副主任。
1985年任国务院科技领导小组办公室副主任。
1988年在中国科学院工作,历任副秘书长兼学部联合办公室主任、《中国科学报》社社长和总编。
1995年1月在中国科协工作,任党组书记、书记处书记、副主席、书记处第一书记、国家科委党组成员。
2004年10月任国务院发展研究中心党组书记、副主任,2007年6月任国务院发展研究中心主任、党组书记,2010年7月起任国务院发展研究中心主任、党组成员。
2011年4月起不再担任国务院发展研究中心主任、党组成员,改任十一届全国政协教科文卫体委员会副主任。
2013年3月起任十二届全国政协常委,教科文卫体委员会主任。兼任中国关心下一代工作委员会常务副主任,中国国际经济交流中心副理事长,中国人才研究会副会长。
是中国共产党十五大、十六大、十七大代表,中共十六届、十七届中央委员,九届全国人大常委、法律委员会委员。