彭汝砺科举为士，治平二年(1065)举进士第一名。历任保信军推官、武安军掌书记、潭州军事推官。王安石看到他的《诗义》，补国子直讲，改任大理寺丞，提升为太子中允，不久厌恶他。

御史中丞邓绾将要提升为御史，召之不去；又上奏，再以失举自列。神宗生气，贬逐邓绾，任用汝砺为监察御史里行。汝砺首先陈述十事：一是正己，二是任人，三是守令，四是理财，五是养民，六是赈救，七是兴事，八是变法，九是青苗，十是盐事。指出揭发利弊，多是人所难说的。又论吕嘉问市易聚敛非法，应罢免；俞充谄媚宦官王中正，以至指使妻儿拜见王中正，不应检正中书五房事。神宗（皇帝）为此而罢免俞充，并查究汝砺的话的根据，汝砺说：“这样，不是用来广视听的做法“。终于不奉诏命。等到王中正与李宪主管西部军队，汝砺说：不应把军队付与宦官，因而言及汉、唐祸乱之事。神宗不高兴，说话打断了汝砺。汝砺拱手站立不动，等待机会再说，神宗为之改容，在廷的人都叹息佩服。皇族宗室把女卖婚民间，官员奏请解除婚姻。汝砺说：“这虽然是疏远的亲戚，都是天家子孙，不能使民间的低贱人得以货取，希望改变婚法。”

元丰初年，汝砺以馆阁校勘的身份为江西转运判官，辞谢皇帝，又说“：现在不担心没有将顺之臣，担心没有谏诤之臣；不担心没有敢为之臣，担心没有敢于说话之臣。”神宗称赞他的忠诚。更替回朝，任京西提点刑狱。

元二年(1087)，召用为起居舍人。当时皇帝想问新旧政治，回答说：“政治没有彼比，统一于是而已。现在所变化大的，是取士与差役法，实行这些制度但士人百姓都不满，不见其可行。”过了一年，升任中书舍人，赐金紫。汝砺词命雅正，大臣中有持平论的，与他的意见颇为相左，一时希图进取之士都指责他，想要排斥去掉他们这类人，但没有借口发作。

恰逢知汉阳军吴处厚得到蔡确安州诗上呈。附会解释，认为怨恨诽谤。谏官交互上章请治罪，又制造危言，来激怒宣仁太后，打算置之法办。汝砺说：“这是罗织罪名的开始。”多次报告执政大臣，不能挽救，于是上疏论列，没有得到同意。正居家待罪，得到蔡确谪命除目草词，说：“我不出来，谁来担负这一责任。”立即进入禁宫中，封还除目，议论更加恳切。谏官指责汝砺为朋党，宣仁太后说“：汝砺岂是依附蔡确的人，也是替朝廷论事而已。”等到蔡确贬官新州，又需要汝砺草词，于是落职知徐州。开始，汝砺在御史台时，议论吕嘉问之事，与蔡确意见不同，移外任十年，蔡确起了很大作用。后来治罪吕嘉问其他狱案，因不阿附执政大臣，因被削夺二官。到这时，又替蔡确获罪，人们因此更加尊敬他。

加官集贤殿修撰，入权兵、刑二部侍郎。有狱案应宽大，执政大臣以特旨杀之，汝砺坚持不杀。执政大臣发怒，惩罚汝砺的部下。汝砺说“：皇帝的制书有不便的地方，允许奏论，这是制度。部下又有什么罪？”于是自己弹劾请求去职，奏章四次上呈。诏令免去部下的惩罚，移汝砺任职礼部，实授吏部侍郎。

哲宗亲自处理政事，修撰熙宁、元丰政事，人们都争相献出所闻，汝砺惟独没有建议。有人问他，回答说：“在以前就无人敢说，在今天就人人能说话了。”进升代理吏部尚书。言官认为他曾经依附刘挚，以宝文阁直学士的身份为成都知府。没有去赴任，多次上奏章，又降为待制、知江州。将要发出，哲宗询问他所想说的话，汝砺应对说：“陛下现在所恢复的，其政事不能没有是非，其人不能没有贤能不肖。政事惟其对，那么没有什么不好；人惟其贤能，那么没有什么得不到的了。”

到达江州几个月后汝砺因病去世。他的遗表大略说：“土地已有余，希望抚以仁政；财用不是不富饶，希望节以礼仪。奸佞之人开始好像令人喜欢，但其祸患在将来；忠言开始好像令人讨厌，但其利益很广博。”至于抚恤河北流散移民，视察江南水灾旱灾，共几百言。朝廷正任命他为枢密都承旨却已去世，就以之告赐其家。终年五十四岁。