投稿・固定ページの公開前に介入する

こんにちわ、sakusaさん。

公開系のボタンを押下した時に、jQuery などでアラートを出すのが一番実装が楽だと思います。

プレビューを見せなくてはいけないんですね。
出来なくはないですが、結構大変だと思います。何せプレビューを見せないと行けないので。

ソースコードを書くと長くなるので、考えられる方法の 1 つとして・・・
プレビューというのがサイト全体のプレビューとした場合

1. 公開ボタンが押下される
2. データを下書きまたはリビジョンに保存
3. プレビュー画面へ遷移またはモーダルウィンドウで表示させる
4. 上か下、もしくは両方に公開ボタンを表示させる
5. プレビュー画面の公開ボタンが押下される
6. 記事が公開される

こんな感じでしょうか？
もし、サイト全体のプレビューが必要ないのであれば、エディタースタイルを利用するのがよいと思います。エディタースタイルを使えばビジュアルエディターで、公開される記事の本文とほぼ同じデザインでプレビューができますので。
この方法でことがすめば、公開ボタン部分に jQuery の処理を挟むだけなので、比較的簡単になります。

上記の流れでやってみようと思っていますが、プレビュー機能をプラグインとして実装するこは可能だと思われますか？

これはテーマの範疇ではないと思うので、プラグインで実装するのが好ましいと思います。
実装方法は個人の考えによると思いますのであれですが、テーマであれプラグインであれ WordPress は PHP ですので何でもできると思ってもいいと思います。
( スキル次第にはなりますが・・・ )

次にエディタースタイルについてですが、管理画面で投稿した記事の本文を呼び出す時 the_content() というテンプレートタグを使用するのはご存知かと思います。

<div class="entry-body">
    <?php the_content(); ?>
</div>

大抵テーマを作る時に、上記のような書き方をするかと思います。
entry-body 以下に表示される記事本文のデザイン ( スタイル ) と、管理画面でのビジュアルエディターの見た目を揃えられるのが、エディタースタイルになります。
( ※完璧に合わせるのは大変だと思いますが・・・ )
PHP は少しのコードを追記するだけなので問題はないのですが、CSS の記述が慣れないと大変かもしれません。こればかりは慣れ ! としか・・・

エディタースタイルは、WordPress の標準機能です。
適用しておくと、クライアントさんから小難しい事言われなくて済むようになる事が多いのでオススメです。

公開ボタンをクリックすることで、phpファイル内の関数が走ると思いますが、これを「公開」ではなく「下書きに保存」に変更するために、何かフックを変更しなければならないということですよね？
はい、その通りです。
適切なフックについては、Codex に掲載されていますのでご一読ください。

「Wordpress エディタスタイル」のように検索してもヒットしなかったのですが、これは管理画面でコンテンツ編集時のビジュアルエディターのことと思ってよいのでしょうか？
はい。ビジュアルエディターに CSS を適用する方法です。
検索する時は、国産のCMSではないので基本的に英語で行った方がよいとおもいます。

wordpress editor style の検索結果
http://goo.gl/Rtx9Tb