職務質問を適法に行うことのできる要件は、以下のとおり、警察官職務執行法2条1項に細かく定められている。

1.異常な挙動その他周囲の事情から合理的に判断して何らかの犯罪を犯し、若しくは犯そうとしていると疑うに足りる相当な理由のある者

2.既に行われた犯罪について、若しくは犯罪が行われようとしていることについて知っていると認められる者

1は、挙動不審者に対する質問を規定し、2は、犯罪に関係する者への質問を規定している。1の要件は、不審事由（ふしんじゆう）といわれる。
これらの要件が備わっているかどうか（適法な職務質問かどうか）は、職務質問をする警察官の主観的判断によって決定されるのではなく、
「普通の社会人がその場合に臨んだら当然にそう考えたであろう客観性」が必要という事になっている。
このように、客観的に要件が備わっていることが要求されるため、単なる主観だけの職務質問は許されないが、
警察官独自の知識、経験その他の自身だけが知りうる情報を併せて合理的な不審点が認められる場合は許される。
ただし、誘導尋問は法律で禁止しており、職務質問を含む捜査の過程で誘導尋問に当たる行為が行われていたと判断された場合、
起訴しても刑事裁判を行う要件を満たしていないとみなされ、例え物的証拠が揃っていたとしても罪状に依らず無罪とする判例が存在する。

明確に拒否されたにもかかわらず、捜査令状を取らないまま荷物を検査し、犯罪行為の証拠品を発見した為、
「逃げる気配があった」などの理由がありながらも違法収集証拠排除法則に則り無罪となった判例が存在する。