张居正请增置阁臣，张四维在京察期间，作《乙亥自陈疏》，出任礼部尚书兼东阁大学士，入阁参预机务。侍皇帝讲读于便殿，神宗以其器度不凡，赐予“一德和衷”四个大字，赏赐负责陪同皇帝祭祀的官员园林和土地，特别赏赐吕调阳和张四维大红彩织仙鹤、背纻丝一表里，大红彩织蟒衣膝纻丝一表里。
神宗亲自到南郊，视察作为祭品的牲畜的情况，感到满意而赏赐斋官，召见内阁辅臣，赐给张四维银八宝二十两、甜食两盒、御菜六品。神宗下令检查南郊的陈设情况，命令张居正等辅臣随侍登山祭坛，赐给张四维银八宝二十两。神宗亲自主持祭天仪式，完成仪式后驾车返回皇极殿，朝中百官举行了庆成礼，辅臣张四维负责等候上尊、珍馔，南郊祭祀仪式结束，神宗和文武百官举行了盛大的宴会，赐给张四维膳食七品，酒五瓶。圣母慈圣皇太后的令旦，文武百官纷纷致辞祝贺，赐给张四维膳食七品，酒五瓶。
张居正主持国事之初，军政财坏，国库空虚，农民起义此伏彼起，危机严重，张四维极力支持张居正的一切政令主张和改革措施，执行“得盗即斩”的镇压手段，推行“一条鞭法”赋税制度，裁汰冗员，减少支出，防御鞑靼，浚治黄淮等，并且取得成效。
张居正死，张四维即为首辅，累官加至少师、吏部尚书、中极殿大学士。张居正执政时，以严刑峻法治理朝事，但亦结怨甚多，反对张居正的人，遂与宦官内外勾结，朝议鼎沸，政令难行。张四维见怨恨张居正的人甚多，决定以宽大从事，安定人心，遂乘神宗生子之际，劝皇帝放宽政策，荡涤繁苛，施惠天下，并使受张居正排挤或罢官的重要人物复职。
朝政稍变，言路始开，司礼太监冯保因两宫徽号封己为伯事，受到张四维极力反对，即谓张四维与吏部尚书王国光同乡相厚，进行诬陷，唆使使御史曹一夔劾国光，并向张四维发难，神宗怒斥他：“元辅忠臣，御史何得妄言。”御史张问达复劾，被降职调出。后张四维门生李植，与言官共同上疏揭发冯保罪状，神宗震怒，晓谕张四维拟旨：“奴辈盗我威福，久其急诛之”。于是冯保及其党羽皆逐，朝事大变，张四维居恒简重，至临大事、决大疑，迎刃而力断，志在扶危定倾，安利国家。
一次，云南给朝廷输送贡金误期，神宗欲加罪地方官吏，经张四维上疏而止，又诏取云南旧贮矿银二十万两，他又谏止，神宗欲下诏江西制陶瓷器物十余万件，而且要求样式奇巧，难以完成，张四维又极力谏止。
其父嵋川公亡，张四维将归里服丧，辞朝廷于文华殿，劝神宗以法祖、孝亲、讲学、勤政、清心、寡欲、惜财、爱民，保终如始。张四维带病匍匐奔丧，日夜兼程，废寝忘食，道病几殆，刚至家，后母胡夫人亦亡，两弟又亡，悲痛交集，带病致哀服丧，张四维服丧将满，病殁于家，神宗闻卒震悼，辍一日视朝，遣官治葬事，赠太师，谥文毅。