张苍担任丞相十几年之后，鲁国人公孙臣向朝廷上书，对张苍按照五行循环制定的律历提出异议，说汉朝属于土德旺盛时期，其征兆是不久将要有黄龙出现，应该更改一年开始的月份，更换祭祀服装颜色。文帝将此事交与张苍处理，张苍认为不是这样，所以置之不理。可是过了不久，果然有黄龙出现在天水郡的成纪县。于是，文帝把公孙臣召到了朝廷，并任命他为博士，让他负责草拟顺应土德的历法制度，同时，改定元年。张苍由此自贬，声称有病年老，需要休息。
张苍曾经推荐一个人担任中侯，此人奸诈、贪婪，文帝为此事责备张苍，张苍自知理亏，于是再次称病，辞去官职。又过了十年，孝景帝前元五年，张苍在家中去世，谥号为文侯，享年104岁。
儿子康侯继承爵位，八年后去世，康侯的儿子张类继承了爵位，在位八年，因犯了不敬罪，撤销封爵。
张苍的父亲身高不满五尺，张苍身高八尺余，而且气质威严，不同常人。张苍的儿子也身高八尺，到了孙子张类，身高只有六尺余，而且犯法失去了侯爵，在很多人看来，张苍之后，实在是一代不如一代。张苍辞去丞相时，牙齿已经掉光了，只能依靠吃母乳生活，雇了很多青年女子作他的奶妈。张苍的妻妾有一百余人，只要怀了身孕，生育过的，就不再亲近。
张苍生前著有18篇著作，主要成就有：他提出和制定了一套比较完整的关于度、量、衡方面的理论，他把算学研究成果直接用于国计民生。在采用历法方面，张苍提倡采用《颛顼历》。他增订、删补《九章算术》。《九章算术》总共收集246个数学问题，这些算法要比欧洲同类算法早1500多年，对世界数学发展产生过重要影响。
张苍不但事业有成，而且获得了年逾百岁的高寿。据史料记载和后人分析，主要得益于以下几点：1.勤奋读书，勤于用脑。张苍晚年仍笔耕不缀，撰写了《张苍》一书，共计16篇，这使得他的思维始终保持着清晰与敏锐。
2.博学多才，爱好广泛。张苍除了精通天文历算之外，还懂得建筑工程和某些工艺技术，十分精通音律。张苍善于吹笛，技巧之高超，超过了当时皇宫内专业人员的水平。他总能通过多种多样的方式来有效缓解压力，这也是他保持身心健康的关键所在。
3.道德高尚，知恩图报。张苍感激王陵的救命之恩，待他显贵之后，始终像对待父亲一样尊重王陵。王陵去世，张苍在文帝朝担任丞相，休假时，还经常来探望王陵夫人，伺候她吃饭后才回家。张苍这种知恩图报的孝道之举，想必也在其家族、子孙乃至周遭官吏中产生了深远的影响。
4.张苍晚年没有牙齿，只靠母乳生活。张苍在2000多年前就懂得了母乳的神奇作用，母乳不仅能补充营养，还能提高身体的免疫力，还有消炎的作用，这些对张苍延年益寿也起到了积极作用。
总之，张苍之所以能够享年百岁，绝非偶然。他的经历和为人处世，在养生保健方面也许能给我们一些启示。