암행어사가 일반어사와 다른 점은 일반어사는 이조에서 임명하고 그 거동이 공개적인 것에 비해, 왕이 친히 임명할 뿐 아니라 그 임명과 행동을 비밀에 부친 것이 다른점입니다.
암행어사의 시작은 태조때 부터 시작되었고, 이시기에는 수령의 권한을 강화하고 중앙집권적인 체제를 정비하던 시기로, 이들은 수령보다 토호 등 지방세력의 불법을 집중적으로 규찰하였습니다. 반면, 세종∼단종 때는 부민고소금지법(部民告訴禁止法)의 시행과 더불어 수령의 권한이 확대되고 집권체제가 정비되면서 수령의 무능과 비리를 적발하는 것이 주가 되었습니다.
암행어사는 오늘날 감사원에 해당하는 제도입니다. 그런데 '암행'(暗行)이라는 말 그대로 정규 관직이 아닙니다. 원래 어사라는 관직 자체는 존재하지만 암행어사는 임시 관직이며, 중국(명나라)의 제도에도 일반적인 어사는 있으나 암행어사는 없었습니다. 수나라에서는 수문제 시절에 암행어사 비슷한 비밀감찰반을 운용한 적이 있습니다. 수양제 집권 이후 비밀감찰반을 폐지했습니다.