一部つづりを含むURLにリダイレクトされてしまう

ヒントレベルで申し訳ありませんが、当該リダイレクトは、template_redirect にフックしている redirect_canonical という関数内で行われています。

ここでは、いくつかの URL の正規化のリダイレクトを行っていますが、該当のリダイレクトは、404 として判別された場合の処理だと思います。

redirect_canonical フィルターフックを使って、404 の際に、$requested_url を返すようにすれば、リダイレクトしないようになるかと思います。