张居正因醉心古代典籍，而减少了在科举方面的努力，导致他在第一次参加会试时落榜，这在上面已经讲过了。但明代毕竟是科举时代，凡是由文人成为宰辅而执掌国家大权的，如果不是通过科举出身，就无法实现。因此，张居正虽然醉心于古代典籍之中，另有修身养性的途径，但他还是不能不重新攻读科举学业，以谋求进身之阶。因为，如果不这样，以张居正家世的平凡，想要跻身政坛，是根本不可能的，更何谈将来执掌国家大权，施展自己经世致用的抱负呢？于是，经过三年“夜以继日，尽心竭力”的刻苦努力，他终于在二十三岁时考中进士。从此，张居正的科举生涯正式结束，而他长达三十年的政治生涯也由此开始。
张居正在嘉靖二十六年（1547年）入朝为官，嘉靖三十三年（1554年）辞官回家。这七年时间里，因为他在会试中进士以后，一开始被任命为翰林院庶吉士，接着又晋升为翰林院编修，一直在翰林院做官；而翰林院是清闲尊贵的职位，庶吉士更是以读书深造为本职工作，因此张居正之前的学术修养，不但没有因为他投身政坛而受到丝毫影响，反而因为他在翰林院期间的精研典籍而造诣更深。大概到这时，张居正才有机会施展他超人的天资，尽情研读翰林院和皇家图书馆中珍藏的书籍，在致力于古典学问之外，进一步拓宽了自己学术涉猎的范围，从事当代历史文化、礼仪制度的探讨，和政治状况、社会事务的研究。从张居正所写的《翰林院读书记》一文，就能大体看出他的造诣如何。这里节选他的叙述如下：
治学而不研究身心性命，就称不上学问；求道而不兼顾经世致用，就是无用之道。因此，学问要贯通天地人，然后才可以称得上是儒者。天地造化的运行，人与万物的发展，都要依赖我们这些儒者辅助实现；整顿风俗习惯，规范人伦道德，都要依赖我们这些儒者贯彻实行；内部的中国，周围的外族蛮夷，都要依赖我们这些儒者去继承教化。所以，执笔书写，是文人们必须用心的所在；吟诵诗文，是儿童们应该修习的学业。你们这二三个人，不想着怎样崇尚根本，注重实际，以自己渺小的身躯，去承担天下的重任，预先培养自己的能力，而是想借一些雕虫小技在世上自我显扬。唉，真是太浅陋啦！况且，道德是事物的根基；文词，是道德的表象。因此，崇尚实践则行动就会有光彩；崇尚言语则文辞就会有光彩。《尚书》里的训诰典谟，难道是圣人们殚精竭虑，刻意写出来的吗？是他们内心洞察先机，文采彰显于外，宣扬美德，省察内心，领悟奥秘后的结果，是不刻意追求文章工整而文章自然工整的结果。……根本稳固的，才会花繁果丰；源流深长的，才会波光闪耀。所以，君子立身处世要注重实际不求浮华，要修养内在品行不求外表华丽。发扬古圣先王的传统，昌明道德的根本宗旨，研究修身养性的奥妙，探究经世致用的内涵，这是我所寄希望于你们各位的。
这篇文章虽然假托师长的口吻，但张居正非凡的抱负，卓越的见解，从中已经可以了解一二了。
然而张居正此时的成就，还不止这些。翰林院既然是应答皇帝的顾问机关，自然是一个时代人文荟萃的地方。再加上明朝上自首辅、宰相等大臣，下至六部正副各长官，莫不曾经担任翰林院学士的职位，此地人才的昌盛，大概也就可想而知了。张居正身处其中，所与交往的，都是一个时代最为杰出的人选，自然也就有有许多良师益友的资源了。况且凭他历来对政治状况和社会事务的关心程度，在与师友面谈之时，必定会把自己平时研究的东西拿出来讨论。这样一来，张居正平日所研究学习的理论知识，就更加能够与实际情形互相印证。这对于他日后执政经验提升的帮助，实在绝非一点。
张居正在这一时期的良师益友，自然是不乏其人的，而其中以徐文贞（徐阶）与他的关系最为深厚，对他的期望最为深切，当张居正做翰林院庶吉士的时候，徐阶正好是翰林院的掌院学士，负责教导庶吉士，所以张居正有机会拜入徐阶门下学习，成为徐阶的学生，《行实》记述徐阶对张居正的观感说：
当时太子少师华亭县人徐阶先生担任内阁辅臣，见张居正沉着坚毅，深沉稳重，所写文章虽然多旁征博引自诸子百家和历史文献，但他的学问却全部以亲身践行为根本，以天理大道为依归，因此对张居正期许很深，说：“张居正日后一定会成为国家倚重的大臣。”
从这里可以看出徐阶对张居正的殷切期望。徐阶既然与张居正有师生关系，又是感情深厚的知己，而且徐阶在调任礼部尚书，进入内阁成为辅政大臣以后，也正需要像张居正这样的英才作为自己的助手，按常理来说，徐阶这个时候应该提拔张居正才对。无奈此时，正是严嵩掌权的时候，徐阶虽然也在内阁，但时常受到严嵩的扼制，他自己本身的职位尚且岌岌可危，自然就更没有力量去提拔张居正了。因此，张居正虽然才华磊落，却长期担任闲散职位，心中的郁闷和忧伤，不问可知。所以他在《致耿楚侗书》里说：
京城的政治局面经常变动，江南的军情又很紧急，距离京师十里之外，数十上百的盗贼成群结伙，官员贪污腐败的风气不止，老百姓的怨愤日益加深，倘若这个时候有奸人趁机滋事，就无法制止掩盖了，若非出现光明磊落的奇伟之人，打破常规，扫除积弊，整肃局面，是很难消除天下的祸患的。但是，即便世上有这种人，人们也未必知道，即便知道，也未必会重用他，这真是让人感慨叹息的事情啊！心有郁闷，无处发泄，只得暂且向知己们一吐为快，这种事是不能向外人说的。
当时明朝的国势是如此的动荡不安，而君主大臣们昏庸奸猾的状况又是久已积重难返，自然容不下像张居正这样光明磊落、奇异不凡的人，施展他扫除积弊、肃清局势的抱负。他的《论时政疏》不被采用，更是让他那忧君爱国的满腔热忱变得沮丧，使他愤慨地产生国事已经到了无可挽救的地步的念头。“不要谈论国事，只管得过且过地吃眼前桌上的蛤蜊就行”，于是张居正托病辞官，返回家乡。但他的满腔忠义，终究无法使他对国事漠然置之，于是在临行之前，给老师徐阶写了封信，以治国之道相劝勉，这封信精当地阐述了治国理政的方法，从中既能看到张居正这时的抱负，也能窥见其日后的建树。节略引用如下：
您气量宽宏，有古贤人的心性，自从在翰林院当文学侍臣，三十多年来一直享有很高的声望，等到进入内阁，成为辅政大臣，更是满足了天下人的期望。对内您从来没有因为婚姻和亲戚关系而徇私弄权，对外也没有托关系、走后门之类的琐事。这正是天下之人敬仰相公的原因所在。然而，自从您成为内阁辅臣以来，将近两年了，其间那些暗自实施的深远谋略，固然不是见识短浅的人所能理解的，可是在制度风俗、大政典礼等方面，仍未见到可以使天下耳目一新的举措，难道相公是打算顺应世俗以等待时机来实施自己的政治抱负吗？俗话说：“太阳当头时一定要把东西拿出来晒，手里有刀的时一定要去切割东西。”我之前见过内阁辅臣张文隐公（张治），他具有刚正耿直的气节，毅然把治理天下当作自己的责任，然而可惜的是进入内阁不到一年，就突然病逝了；最近的内阁辅臣欧阳公，是天下士人的道德楷模，然而也是在正当受重用的时候，突然去世了。这两位先生，都自以为智慧巧妙，能做到和光同尘、顺应时势，可是他们都在两三年内相继去世了。这是为什么呢？因为他们不懂方与圆的施用方法不同，久而久之，心中的郁结越积越多，终于因为不能承受而死亡。相公您与这两位先贤，长期以来意气相投，何尝想到他们突然去世后，应当与谁一同建功立业呢？况且，如今官场上的升迁之路，比荆棘丛生的山道还要险峻，厌恶耿直、诋毁正派的人，实在数量众多。相公您内心怀有卓尔不群的抱负，外在行为却表现得想混迹随俗，用这种方法来等待时机施展抱负，不是很困难吗！何不索性披肝沥胆，敞开心扉，坦露感情，发挥独立决断的明智策略，抛弃像世俗人那样的犹豫顾虑，慷慨地为自己的平生抱负拼搏一次呢？假如上天激发了皇上的心智，相公的忠心又能令陛下开悟，这样您就有青史留名的可能了。如果我们坚持的道路受阻，理想中的太平盛世无法实现，那么视富贵如浮云，保持高洁的志向，超脱世俗，独来独往，也是一大快事！这与整日郁闷不乐、食不下咽，暗自叹息相比，不是好得多吗？宰相，是皇帝所重视的人，如果自身行为不慎重，其命令也就不会有人去执行。近年以来，皇帝与大臣的感情越来越疏远，朝廷大政，有一些在古代是普通老百姓都可以在天子面前放言高论的，可是如今连宰相都不敢在皇帝面前发出一言。为什么呢？顾忌之心太多了。造成这样缺失的原因在于，贪图君主的爵位和俸禄，不能坚持正道以自重，在这种情况下，想追求以言论来感悟、打动皇帝，必然是不可能的。希望相公您能眼界放高，目光长远，保持超尘脱俗的志向，对于爵位俸禄，先自我衡量再加以接受，不要因为受到恩宠就高傲动心。高洁而不谋私利的心胸，对上能取得皇帝的信任，对下能取得民众的信服，这样，您的身份就能重于泰山，言辞就能比用蓍草龟甲进行的占卜还要可信，进能被天子恩宠而获得荣光，退能像鸿鸟一样飞翔高空，这样的处境岂不是十分宽阔、绰绰有余吗？西汉公孙弘说：“君主的缺点在于心胸不够宽广，臣子的缺点在于行为不够节俭。”身为汉朝丞相，却吃粗米饭盖粗布被，因此他的行为受到古代优秀史官们的称赞。京城，是天下四方的根本；大臣，是天下民众的表率。近年以来，京城内外财用枯竭，生活习俗崇尚奢侈浪费。贫病交加的人衣不蔽体，而有些做官的人，连婢女和小妾都穿丝绸的衣服；普通百姓连野菜都吃不饱，而有些做官的人，连家里的仆人都吃厌了米肉；这真是减损下层利益而增加上层利益的显著表现。在这种情况下，实在应该提倡节俭，用礼法约束人们的视听，弘扬晏子一件狐裘穿三十年的节俭品德，鼓励阅读以讥刺衣食奢侈为内容的《羔羊》诗篇，或许这样才能为百官树立榜样，改变奢侈的风俗。
天子有直言敢谏的大臣，士人有直言不讳的朋友，因此能一举一动都不违反法则。药物苦口却能救人的性命，美化掩盖疾病却只会滋养毒素。品行正直的人，就好像苦口的药物；谄媚奸邪的人，就好比被美化掩盖的疾病。然而，端正耿直的人因为性格刚正而难以亲近，谄媚奸邪的人则性格柔和而易于亲密。机巧奸诈的人，还未说话，就显露出一副唯唯诺诺的样子，他们奉承起人来能把你的品德比作皋陶、伊尹，把你的功业说得连管仲、晏婴都比不上，他们的话足以让人志得意满，纵情安逸，而当面受到欺骗。这就是北魏大臣高允痛恨闵湛，说闵湛每天经营的虽然只是一些小恩小惠，却给司徒崔浩留下无穷祸患弄得崔浩满门抄斩的原因。希望相公选拔一些正直诚实的人，让他们留在您的身边，利用他们匡正辅助君主，听听他们的正直之言，这对您的宏伟事业也是一大助力。士大夫习气的好坏，是人才盛衰的关键。近来，士大夫们的习气颓废衰败，廉耻之道丧失，公开行贿受贿，以奸邪途径进身的人比《庄子》里提到的因岔路太多而丢失的羊还要多，人们乞求权势追逐名利如同苍蝇追逐腥臭一样，互相煽动，蔚然成风。当今皇帝圣明，相公身居高位，怎么能允许士大夫们的习气败坏到如此地步呢？爵位俸禄和业绩考核，是用来磨砺社会风气的；礼义廉耻和气节道义，是用来建立道德标准的。爵位俸禄和业绩考核，不能激励上等人才，只能激励中等人才。然而，上等人才百人里面不过一人，而中等人才却很多。假如能把爵位俸禄和优等考核，归之于那些坚持礼义廉耻和气节道义的上等人才，那么中等人才就会以上等人才为目标而努力向之看齐了。等到清正的风气形成，士大夫们的习气振作，然后相公再用这种无为而治的方法，营造纯正平和的社会氛围，那时您的伟大教化就会像蒸气一样弥漫于天地，使世间形成恭谨宽厚的风俗。这些都是相公现在应当做的。至于说建立像天一样的伟业，辅佐帝王成就尧舜那样的功绩，这就不是我这样浅薄平庸的人所能参与的了，况且对这些事我也愚昧无知，所以也就不敢言了。
这封信所谈论的宰相之道，可谓简明扼要，能抓住问题的关键。这里试就上文所列举的几点来略加讨论，如“坚持正道以自重”“对上能取得皇帝的信任，对下能取得民众的信服”，都是讲的要建立威信；“提倡节俭，用礼法约束人们的视听”，讲的是要移风易俗；“选拔一些正直诚实的人，让他们留在您的身边，利用他们匡正辅助君主，听听他们的正直之言”，说的是要举荐贤才；“把爵位俸禄和优等考核，归之于那些坚持礼义廉耻和气节道义的上等人才”，说的是要赏罚分明。所有这些，世上位居宰相而执掌政权，立有大功而成就伟业的人，有不把这些作为治国理政的关键的吗？有不在这些方面努力而最终能建功立业的吗？我相信必然是不可能的。这些方面，固然是张居正今日用来勉励其老师徐阶的，但也他日后借以建功立业的根本，难道能够等闲视之吗？再从遣词立意来说，这封信立意十分周到，措辞非常诚恳，既符合委婉劝人的传统，也采用直言规劝的方法；从中可见，张居正对徐阶不仅是在尽师生之情，而且也有君子“爱人以德”的大道在里面。其中尤以“顺应世俗以等待时机”“内心怀有卓尔不群的抱负，外在行为却表现得想混迹随俗”“ 顾忌之心太多”这几句话，最是说中了徐阶的难言之隐，从而促使他生出发愤图强的心思。因为当时严嵩掌权，徐阶屈居严嵩之下，只能空自发出“我的抱负无法施展”的叹息，不能建立匡君辅国的功业。这种做法，在太平盛世，尚且免不了被人嘲笑在位不尽职；何况当时外敌逼迫，内政混乱，而徐阶作为内阁次辅，身上背负天下人的厚望，然而他却只能徒然地甘受权奸严嵩的扼制，不能施展其抱负，如果以公正的舆论来评价，难道他能逃脱尸位素餐的讥笑吗？张居正以徐阶学生的身份，竭尽诚心给予忠告，其中固然有他无法言传的苦衷，但这也是他在借此报答徐阶对自己的知遇之恩。至于所说的“视富贵如浮云，保持高洁的志向，超脱世俗，独来独往”，这是张居正现今正在亲身践行的；而所谓“发挥独立决断的明智策略，抛弃像世俗人那样的犹豫顾虑，慷慨地为自己的平生抱负拼搏一次”，这是张居正日后有所建立的基础。张居正一生的出仕和隐退，都是以在这封信里所论述的内容为宗旨的，并且都一一付诸了实践，这就难怪他能侃侃而谈，并全部列举来勉励他一向敬爱的老师了。