張釋之任謁者僕射時,有一次跟隨漢文帝出行,在參觀虎圈時,皇上向上林尉詢問登記各種禽獸冊子的情況,提了十多個問題,結果上林尉左右瞧看,都回答不出來。這時,看管虎圈的嗇夫從旁邊上來代替上林尉回答問題,回答的很詳細和流利,他想以此顯示自己的口才。
漢文帝說:「官吏不應該這樣嗎?上林尉根本不稱職!」於是讓張釋之宣布嗇夫為上林令,張釋之上前說:「陛下認為絳侯周勃是甚麼樣的人呢?」皇上說:「是忠厚有德行的人。」又問:「東陽侯張相如是甚麼樣的人呢?」皇上說:「也是忠厚有德行的人。」張釋之說:「象絳侯、東陽侯被稱為忠厚有德行,可這兩個人談論事情時好像連話都說不出來,難道讓人們去學這個嗇夫喋喋不休的伶牙俐齒嗎?況且秦朝因為任用那些舞文弄墨的書吏,書吏們爭著拿辦事急快和苛刻來互比高低,然而那樣做的弊病只是照章行事罷了,一點也沒有仁慈的實情。因為這個皇上聽不到自己的過失,日益衰敗,傳至二世,天下便土崩瓦解了。如今陛下因嗇夫伶牙俐齒就越級提拔他,我擔心士人會隨風附和,爭相浮誇而不講求實際。況且下面仿效上面很快,陛下做甚麼事不可以不謹慎啊!」皇上說:「好!」便沒有再提拔那個嗇夫。
張釋之升任公車令。有一次,太子和梁王同乘一輛車入朝,在經過司馬門時沒有下車,張釋之發現了趕緊追上去制止太子和梁王,不讓他們進殿門,並且上奏了兩人的不敬之罪。薄太后知道後,文帝摘下帽子前去賠罪,自責自己教導兒子不嚴,薄太后這才赦免了太子和梁王兩人,允許他們進宮。漢文帝通過這件事,知道了張釋之持法公正無私,與眾不同,所以升任他為中大夫。
不久,張釋之官至中郎將,接著拜為廷尉。有一天,皇上通過中渭橋,有一個人突然從橋下跑出來,使駕車的馬受了驚,於是皇上令騎士將那人抓捕,交給廷尉治罪。張釋之審問了那人,那人說自己聽到清道戒嚴,急忙躲到了橋下,過了很久,以為皇上的車馬和儀仗已經過去了,便從橋下面出來,沒想到正撞上皇上的車馬和儀仗,所以轉身就跑。張釋之將此事如實向皇上稟報,並說:「此人違反了清道戒嚴的號令,應處以罰金。」
皇上大怒道:「這個人驚了我的馬,幸虧我的馬脾性溫和,假若是別的馬,不早就摔傷我了嗎?可廷尉卻僅要處以罰金!」張釋之解釋說:「天子與天下人一樣都要共同遵守法律。如今法律是這樣規定的卻要加重處罰,這樣法律就不能取信於民了。如今此事交付給廷尉,而廷尉是天下公平的象徵,一旦有偏,天下使用法律時都會任意或輕或重,老百姓往哪兒安放他們的手腳?望陛下明察。」皇上考慮了一會兒,說:「還是廷尉說的對。」
還有一次,有人因為偷了高祖廟內神座前的玉環而被抓,文帝大怒,將這人交給廷尉治罪。張釋之依照律法條文,奏請判處這人斬首。皇上勃然大怒,認為應該將這人滅九族。張釋之據理力爭,認為應以逆順輕重的程度作為依據。皇上同薄太后商量後同意了張釋之的判決。
當時,朝廷中賢德的大臣看到張釋之如此正直公正,紛紛同他結交為親密朋友,張釋之由此受到天下人的稱頌,名揚千古。