@YMCのサポートに聞いたところ、やはりサーバのメモリが足りないそうです。他にも問い合わせが入っているとのことで、メモリ追加を検討中と回答をいただきました。サーバはYSシリーズです。
2.5は動くのでそちらを使用しようと思います。
>lilyfanさん
回答ありがとうございます。
さっそくmemory_limitを32Mにしてみましたが、やはり同じエラーがでてしまいました。
ためしに英語版の2.6.3をインストールしたところ、こちらは設置することができました。投稿もできましたが、wp-config.phpのWPLANGをjaにして、言語ファイルをwp-content/languagesにアップしたら、前述のエラーがでてしまいました。
サポートにもOut of memoryについて相談してみようと思います。
ありがとうございます。