カテゴリー数、タグ数について

この場合、問題になるのはカテゴリー数ではなく、想定されるアクセス数と作り方ではないでしょうかね。

ただ2000のカテゴリを登録してもそうそう遅くなったりするとは思えません。実際にカスタムタクソノミーで大カテ・中カテ・小カテを作って数百件のダミーデータで検索実験を行ったことがありますが、特に問題は発生しませんでした。
問題は、何も工夫はせずに複数のカスタムフィールドを設置し、それらを検索対象にした絞り込み検索などを構築してしまうと高スペックサーバーでも遅くなりますし、しっかりと作り込んでいたとしても膨大なアクセス数があったり、記事数（カテゴリ数ではなくて）が数万件などのように膨れ上がっていくならはやりそれなりのサーバースペックが必要になるでしょう。

なので、しっかり作り込んだ特にアクセス数も記事数も多くないただカテゴリー数の多いサイトをWordPressで構築しても遅くなったりはしないと思います。