その後調査を進めたところ、
wp-includes/ms-function.php内function wpmu_signup_user_notificationで招待メールを送信していることを突き止め、1129行のwp_mailがfalseになっていることがわかりました。

メールサーバー管理者に問い合わせて再度確認しようとしたところ
なぜか正常に登録招待メールが届くようになりました、、

どのようにして動作したか不明ですが、とりあえず解決ということにします。