狄仁杰，并州太原(今山西太原人)，唐太宗贞观三年(公元629年) ，生于一个普通官僚地主家庭里。狄仁杰之六代祖狄湛，东魏时做过"帐内都督"，封临邑子。狄湛之孙孝绪，唐太宗时做过尚书左丞，封临颖男。孝绪有三个儿子，末子知逊，即狄仁杰之父，曾任越州刺史。狄氏家族，在门阀体系中，地位不算高。狄仁杰幼年刻苦攻读，以明经举，从此进入仕途。狄仁杰的前半生，比较平淡。作为政治家，他的后半生活动，才逐渐具有重大意义。
唐高宗仅凤元年(公元676年)，狄仁杰时年四十七岁，被任命为大理丞。大理丞是审判官员，从六品上。按制度，大理丞作出判决之后，有责任将被告的家属找来，向他们宣告判决，并间他们是否服从判决。在他担任大理丞一年左右的时间里，狄仁杰判决了纠缠多年的"滞狱"一万七千多件，被告的家属都表示服从判决，没有称冤叫苦的。
仪凤元年九月，左卫大将军权善才，错砍了太宗陵寝上的一株树，高宗要将他处以死刑。狄仁杰认为应该就地免职，罪不当诛。高宗板起面孔，说不杀权善才，他就亏了孝道，对不起死去的父皇，所以一定要杀。面对盛怒的高宗皇帝，狄仁杰没有退缩，但是也没有死谏，他进言道："我听说逆龙颜，忤人主，自古以来就是一件很难的事情，但我却不这样认为。如果在夏桀、商纣之时，确实很难，处尧、舜之世，就很容易。我现在有幸遇到尧、舜一样的明主，我有什么可怕的呢？"可以看出，狄仁杰的劝谏与魏征的犯颜直谏不同，他很注意方式，这一番话铺垫之后，他继而据理力争，说不能为了一株树杀一个将军。最后，高宗皇帝接受了狄仁杰的意见。
很快，狄仁杰被任命为侍御史。侍御史约略相当于后来之检察官，职司纠劾，纠劾的对象是中央各部、司的官员。侍御史官阶不高，从六品下，但由于常在朝堂值宿，得到较多的接近皇帝的机会，所以地位比大理丞重要。
在侍御史任上，狄仁杰能对一些巧媚逢迎、恃宠沽权的人进行斗争。例如司农卿韦弘机为皇帝造了许多壮丽的宫殿，狄仁杰上表纠劾，认为韦弘机在引导皇帝去追求奢侈生活。又如左司朗中王本立，是皇帝的幸臣，恃宠用事，狄仁杰要求将他交给法司审判。皇帝颁下圣旨，要赦免他。狄仁杰顶住圣旨说："要是赦免了王本立，就请先将我充军到不毛之地去。"由于狄仁杰的力争，韦弘机和王本立都受到了处分。
弘道元年十二月，唐高宗去世。大权在握的武则天，把她的儿子李显赶下帝位，将他安置在房州。另一个儿子李旦，虽然当了皇帝，但徒有虚名。武则天以太后身分，临朝称制。这时候，狄仁杰被任命为宁州刺史。宁州在今甘肃宁县、正宁一带，是一个民族成份比较复杂的地区。狄仁杰注意妥善处理少数民族与汉族的关系，采取一视同仁的态度，使境内居民部能和睦相处。他的这种作法，受到当地人民的赞美，人们称他为狄使君，给他树立了德政碑。
垂拱二年(公元686年) ，御史郭翰出巡陇右。郭翰态度严肃，所到之处，必有按劾，陇右各州的官吏都很怕他。但他进入宁州以后，感到这儿的气氛，和其它州不一样，许多人都向他提到狄仁杰的惠政，这使郭翰大为折服。他公开宣布，不在宁州久留，意思就是说，这儿政绩优良，不是他按劾的对象。郭翰回朝以后，上表推荐狄仁杰。大概就从这个时候起，狄仁杰开始受到了武则天的注意。
狄仁杰被内调为冬官侍郎，以后又出任江南道巡抚使。垂拱四年(公元688年) ，狄仁杰又被任命为豫州刺史。狄仁杰出长豫州，是在一次大的兵乱之后。原任豫州刺史李贞，是太宗的儿子，封越王，他起兵反对武则天临朝称制。武则天派宰相张光辅率兵三十万，前往镇压，叛乱很快地被镇压了下去。狄仁杰几乎是和张光辅同时进入豫州的，但两人随即发生了激烈的冲突。冲突的-个焦点是关于所谓"逆人"问题。李贞起兵时，强迫一批人和他一道搞叛乱，并授予他们以官职。这种人有六、七百人，他们的家属有五千人。张光辅认为：这六、七百人，都是李贞分子，都是"逆人"，他要将他们处决，并籍没他们的家属。狄仁杰反对这样做，他认为那些人不是真正的反叛之人。他给武则天上了一封密表说：如果他不把情况如实地向她反映，那就没有体现出她对百姓的怜恤之情；但如果采取正式进表的方式，又怕给人留下为逆人申理的把柄，因此他的心情极为矛盾。这种宛转的措词，使武则天部分地接受了他的意见，那些判死刑的都被流放到丰州
