狄仁杰顺利通过明经考试,授任汴州判佐。
河南道黜陟使阎立本欣赏狄仁杰德才兼备,向朝廷举荐他,狄仁杰升任并州都督府法曹。
仪凤年间,狄仁杰升任大理寺丞,他在一年内判决大量积压案件,涉案一万七千人,却无一人不服判决喊冤上诉。狄仁杰又被改任为侍御史。
垂拱二年(686年),狄仁杰外放宁州刺史。任内妥善处理民族关系,深受百姓爱戴。
御史郭翰巡察陇右,弹劾了一大批履职不力、涉嫌贪腐的州县官吏。
但当郭翰到达宁州,却不断听到当地百姓的称颂刺史,因此向朝廷奏报狄仁杰德政。不久,狄仁杰被任命为冬官侍郎。
垂拱四年(688年),狄仁杰被任命为江南巡抚大使。
当时,江南之地迷信鬼神之风盛行,遍地都是民间自行设立不在祀典的鬼神祠庙。
狄仁杰奏知朝廷,并焚毁鬼狐神仙淫祠一千七百所,只留奉夏禹、太伯、季礼、伍员四座祠庙,吴地楚地的迷信风气,从此肃清。
不久,狄仁杰奉旨回京改任文昌右丞,九月出任豫州刺史。
狄仁杰到了豫州,查问越王李贞余党现状,发现他们全部已被张光辅下令逮捕,差不多两三千人,张光辅想杀降兵冒功。
狄仁杰不禁哀怜地说:
“人命关天,怎么能这样随便抓人呢?”
于是下令为他们卸去枷锁,并写了奏章派使者飞报朝廷。
奏章里向朝廷奏报说:
“张光辅抓的罪犯特别多,实际很多是冤枉被抓错了的人。
我为他们奏报冤屈,好象是在为疑似谋逆的人讲情,我还是要说。
我如果装作看不见,保持沉默不说,就违背了陛下量刑慎重不滥捕,心存矜恤的心意。
敬盼陛下怜悯体察。”
很快接到朝廷复旨,令当把这些罪犯全部免死戍边。
狄仁杰曾担任宁州刺史,百姓为他立了德政碑。
这些流放发配的犯人路过宁州地界,宁州父老乡亲都到路边给这些人送吃送喝。宁州乡亲问犯人们说:
“是我们宁州的狄使君让你们活下来了么?”
“是啊。是啊。
我们本来求生无望,戴刑枷坐等被朝廷处死。
狄大人到任豫州怜悯我们处境,给朝廷上奏章,我们这些人才得以全部免死。
狄大人救了我们一命啊。”