唐高宗年间（676—679年），狄仁杰被任命为大理丞，当时的大理寺负责流刑以下的审批工作，其上有刑部和御史台，刑部负责对大理寺审理的案件进行复核，御史台则对刑部和大理寺进行监督，纠正它们审案过程中的失误之处。大理丞负责的工作是定刑罚、勘刑狱。在任期间，狄仁杰做事刚正不阿，廉明公正，而且办事效率很高，他在短短一年之中就判决了大量的积压案件，其办案涉及到1.7万人，而且没有冤诉之人，因此在当时他名声大振，成为朝野推崇备至的断案如神、摘奸除恶的大法官。而这也奠定了他在朝中的地位。
仪凤元年（676年），左威卫大将军权善才的一个侍卫军军士犯了法，权善才依法查办了他。这个侍卫军怀恨在心，便将权善才和左监门中郎将范怀义误砍昭陵柏树的事告诉了唐高宗，在当时这是十分不恭敬的事。因为昭陵是唐太宗李世民和文德皇后的合葬墓，这使唐高宗大怒，因此高宗下令将权善才和范怀义处死。权善才和范怀义是两位难得的定国安邦之才。何况按照法律他们只能处以免去官职的处罚，根本不应该被判处死刑的。狄仁杰了解此事后，便向高宗奏明其罪不当死，但是唐高宗疾言厉色地说：“权善才等人斫陵上树，是使我不孝，必须杀之！”狄仁杰则神色不变，据法说理：“当君主愤怒之时向君主谏言，从古至今都很难做到。因为君王盛怒之下，可能会有失去生命的危险。而臣以为如果遇桀、纣这样的君主，则不容易做到在君主愤怒之时向君主谏言。但是如果遇到了尧、舜这样的君主，在他们盛怒之下谏言就很容易了。因为明主是会纳言的，并且会理解谏言之臣的苦心。臣之所以敢谏言就是因为臣庆幸遇到了明君，按照法律规定权善才等人不该杀，如果皇上要杀他们的话，这就违背了法律，如果我们在上者不按法律行事，那么法律还有什么威信呢，老百姓又如何相信法律、用法律来约束自己、保护自己呢？”他顿了顿又说：“如今陛下以昭陵一株柏杀两位将军，那么千载之后，该谓陛下为何主？因此臣不敢奉命去杀两位将军，让陛下蒙受此不义之名。”高宗听后，冷静地想了想，觉得狄仁杰的话很有道理，于是改变了主意，赦免了权善才等人的死罪。高宗十分佩服狄仁杰的公正廉明，并将此事记入史册，为的是让后人记住这位廉洁爱才、敢于直谏的好官。
权善才十分感谢狄仁杰的救命之恩，亲自去狄仁杰府上感谢他，他带了百两黄金。权善才说：“承蒙大人直谏，善才才有此再生之日，今倾尽家财，为报大人的再生之恩与知遇之恩。”说完便向狄仁杰双膝拜下，狄仁杰将其扶起，笑着说：“将军何必行此大礼，我犯言直谏是为人臣者分内之事，将军乃国之将才，怎能因误砍柏树而死？”权善才希望狄仁杰能够收下这些金子，他说：“大人一定要收下，这是我的一片心意，我深夜来此就是为了掩他人耳目，这事只有你我知道，您收下了并不会影响您的廉明之品。”狄仁杰听完后哈哈大笑，“将军此言差矣，哪里是你知我知，还有天知地知呢！”然后狄仁杰顿了顿又说：“《大学》有云：‘十目所视，十手所指，其严乎？’我是尽心尽责秉公执法，这是我的职责，如果收您之厚礼，就违背道义了。”看来狄仁杰真是一个谨慎修德之人，权善才更加地感恩于狄仁杰，因此尽心尽力地为国效力。
狄仁杰对待犯人也能够心存宽容之心。一次他视察监狱，看见一个狱卒正在鞭打囚犯，囚犯被打得遍身流血，而且狱卒面有怒气。他忙下令狱卒停手，问：“你为何鞭打这个囚犯？”狱卒跪下来说：“禀告大人，此人太可恶了，居然对朝廷不敬，辱骂朝廷，真是太违法悖理了，不由人不怒啊！我打他是顺民意啊。”狄仁杰听了，马上说：“就算他有不敬 之言，你也不能如此待他，这样会出人命的。”于是他命令狱卒将犯人放下来，询问原因。原来这个犯人因为灾荒之年无法生存，偷了别人的东西而被判刑入狱，他心中不服，怨恨朝廷让他无法生存，所以辱骂朝廷。狄仁杰听了慨叹一声说：“这是因为我们的过失啊，正是因为朝廷的过失，才让百姓对朝廷失去了信心，他做坏事也不是他情愿的，我们应当怜悯他啊，怎么还能鞭打他、对他发怒呢？所谓上天也有好生之德呀！”于是他让狱卒善待这个囚犯，不要再鞭打他了。狄仁杰能够如此宽厚地对待犯法之人，说明他并不是一个冷面无情的人，他坚持处罚犯人是为了维护法律的尊严、社会的安定。从这一点上看，狄仁杰可谓是一个有良心的好官。
为了维护法律的正义，对于国之将才，狄仁杰能够竭尽全力去保护，对于那些祸国殃民的奸臣，他则是不惜一切代价将其铲除。昭陵柏树之事结案后，狄仁杰被唐高宗任命为侍御史，这是一个很有实权的官职，他的任务是负责审讯案件，纠劾百官，也就是监督百官是否忠于职守。因此很多人都想和他套近乎，但是狄仁杰并不因此而傲慢无礼，对人依旧如初，这更加让人尊敬狄仁杰。
在任职期间，狄仁杰铁面无私，对那些阿谀奉承、恃宠怙权的高官，他从来不留情面，对他们进行弹劾，让他们受到应得的惩罚。
司农卿韦弘机为了取悦高宗皇帝，上书建造宫殿，获得批准之后，他便开始动工，在调露元年（679年），宿羽、高山、上阳等宫殿竣工，这些宫殿宽敞壮丽，的确是能让人尽享声色犬马之所。高宗皇帝龙颜大悦，给予司农卿韦弘机以奖励，完全没有去想在这几年的建造过程中，韦弘机耗费的人力物力是多么巨大，而且宫殿所占的建筑之地全都是良田，使很多百姓因此失去了生活来源，再加上所负的徭役，他们的生活更加艰难。朝中有很多人因此很愤怒，但此时韦弘机已经成了皇上身边的大红人，备受皇恩的宠爱，只是敢怒不敢言，而刚正的狄仁杰却不考虑一己之私。他上奏章弹劾韦弘机，说他引导皇帝追求奢泰，应当将此风气止住，不然将遗害无穷。高宗有些迟疑，因为韦弘机的确让他很开心，但是狄仁杰告诫皇帝说：“为君如果养成这种不正之风，那么下臣必要效仿，何况这次劳民伤财，已使百姓怨声载道，如果皇上还纵容此事，那么全国将如何看待皇上，又该如何尽心为皇帝办事呢？”所以狄仁杰依法将韦弘机查办，因此韦弘机被免职。这样一来，也遏制住了这种追求奢华的不正之风。这件事大快人心，朝野之上都称赞狄仁杰是一个任人唯贤、不畏权势的好官。
当时，朝堂之中还有一位左司郎中叫王本立，深得高宗的信任，这位左司郎中常常恃恩用事，朝廷上下都很畏惧他。王本立利用自己的权势徇私枉法，完全不把法律放在眼里，一些善于钻营的小人都依附于他，他们结党营私做尽坏事。把朝野上下弄得一片乌烟瘴气。狄仁杰不顾王本立身居高位和深得皇帝宠幸，毫不留情地揭露了王本立为非作歹的罪行，并请求将王本立交付法司审理。唐高宗想宽容包庇王本立，他说：“本立乃国家的人才，目前正是用人之际，当为国家社稷着想，本立已知错误，日后定能改正。”言语中有让狄仁杰宽待此人之意，然而狄仁杰却以身护法，他说：“国家虽然缺乏英豪俊才，但绝不缺少王本立等人！陛下何惜罪人而使国法失去效力。如果您让臣屈从您的旨意赦免本立，那么臣请求您处臣以包庇之罪，流放臣于无人之境，以便来警戒将来的臣子能够为您尽忠贞之心！臣死不足惜，只恐危及您的江山社稷。”在这样的据理力争之下，王本立最终被定罪，狄仁杰的胆识让朝廷肃然。从此以后，朝野之中充满了一片正义之气，再无肆无忌惮为所欲为之人，因为他们都惧怕狄仁杰这位铁面无私的大法官。
