taxsonomy-A.php 内に　タクソノミーBで区切った表示をさせたい

いろいろ方法はあると思いますが、こちらはメインループでは投稿を並び替えるだけにし、サブループで表示するという方法です。

<?php
$post_lists = array();
// メインループ
while ( have_posts() ):
    the_post();
    $the_terms = get_the_terms($post, 'taxsonomy-B');
    $the_term = reset($terms);
    if ( empty($post_lists[$the_term->term_id]) ):
        $post_lists[$the_term->term_id] = array($the_term->name);
    endif;
    $post_lists[$the_term->term_id][] = $post;
endwhile;
// サブループ
foreach ( $post_lists as $term_id => $post_list ):
    // ターム毎のループ
    foreach ( $post_list as $key => $_post ):
        if ( $key === 0 ): ?>
<h3><?php echo $_post; ?></h3>
<?php   else:
<h4><a href="<?php echo esc_url(get_permalink($_post)); ?>"><?php echo strip_tags(get_the_title($_post)); ?></a></h4>
<?php   endif;
    endforeach;
endforeach;
?>

まずメインループ内で $post_lists に、タクソノミーBのタームごとに投稿データを格納していき、多次元配列を作ります。
この時、ターム名もついでに取得しておきます。
次にサブループを作り、ターム毎にさらにループを組んで表示します。
サブループ内でタームの情報が必要なら $term_id にタームIDが格納されています。
投稿がもし複数のタームを持つなら、（タームID順で）最初のタームにしか表示されません。

動作確認はしていませんが、参考にしてください。

ごめんなさい、コードの7行目の変数名が普通に間違ってました。
reset($terms) ではなく reset($the_terms) ですね。
それと、19行目（下から6行目）の else: のあとで ?> を書くのを忘れていました。
初歩的なミスばかりですみません、動作確認はするものですね……
ただ、これらのミスだと <h4> も正しく表示されないはずですが、大丈夫でしたか？

それと、上記のコードだと万一投稿がタームを持たない場合にエラーになりそうなので、修正してみました。

<?php
$post_lists = array();
// メインループ
while ( have_posts() ):
    the_post();
    $the_terms = get_the_terms($post, 'taxsonomy-B');
    if ( ! $the_terms ):
        continue;
    endif;
    $the_term = reset($the_terms);
    $the_term_id = $the_term->term_id;
    if ( empty($post_lists[$the_term_id]) ):
        $post_lists[$the_term_id] = array($the_term->name);
    endif;
    $post_lists[$the_term_id][] = $post;
endwhile;
// サブループ
foreach ( $post_lists as $term_id => $post_list ):
    // ターム毎のループ
    foreach ( $post_list as $key => $_post ):
        if ( $key === 0 ): ?>
<h3><?php echo $_post; ?></h3>
<?php   else: ?>
<h4><a href="<?php echo esc_url(get_permalink($_post)); ?>"><?php echo strip_tags(get_the_title($_post)); ?></a></h4>
<?php   endif;
    endforeach;
endforeach;
?>

これでどうでしょうか。

ものすごく細かくて意地悪な話かと思いますが、少しだけ進言させてください。
postなど環境準備語とそれに近いものは独自用途での変数名に使用しないほうがいいとおもいます。
PHPのプログラミングについてのお話なのでワードプレス本体とは離れてしまうので簡単にお話できればと思うのですが
foreach の書き方で私が実践しているものをご紹介いたします。
ちょっと初心者むけでいらっとするかとおもいますが、もしか初心者の方にも目に留まれば参考いただけるといいなと思い、かきます。

foreach（配列変数を最初から最後までひとつづつ代用して終了するループ）
foreach($post_list（対象となる配列変数） as（当該位置のデータを次の変数に代入する） $key（連想配列の配列名） => $_post（連想配列のデータ名） )

なのですが、一般的なトレンドは

foreach ( $arrayed_data as $key => $value )

です。このKEYとVALUEはループ内でしか利用できない一時的な変数なのでこの名前で問題ないと思います。
ただこれをさらにループの中におさめるなどの多段になると同じ名前が利用できません。
なので毎回、一段であっても

foreach ( $arrayed_data as $key_ad（arrayed_dataの略） => $value_ad )

と対象の変数の略語をつけるようにしています。ロシアの人の名前で「父親の名前をミドルネームにする」みたいなものです。
すると一時変数だけども用途が可視化されるのでプログラミングが捗ると思います。

foreachの中に同じ変数でforeachをまわすとどっちのデータかわからない、というかあとから入れた変数がはいってしまうので
ごちゃまぜになり思った結果がでなくなると思いますのでそれを回避もできます。

同じようにスーパーグローバルといった環境で準備されている変数名などに一時的なデータをいれてしまうと
全体がへんなことになってしまう可能性があります。
$post　はワードプレスが記事を読みだしたときにループ用でよくつかっているのをみかける変数ですね。
$_POSTはPHPがPOST形式でデータが転送されてきたときの受信変数に使用されます。

いかがでしょうか。

勉強になります。

foreach ( $arrayed_data as $key => $value ) という書き方は普段は使っていますが、ここではあえて、何の変数かわかりやすいように書きました。
$_post という変数名については、WordPressのソースファイルのあちこちで使われているので、おそらくグローバル変数や準備語の類ではないと考えておりました。
もちろん避けられる問題は避けるに越したことはないので、変数名を変えるのもやぶさかではありません。

もしかして、なのですが、そのアイデアはこの記事が元ネタですか？
http://labe.wp.xdomain.jp/post/367
違ったらごめんなさい。ちなみにこの記事を書いたのは俺です。

ところで、俺がこのトピックの上記で紹介した方法は、その orderby とは全く異なる方法でデータを処理しているため、残念ながらその方法は使えません。
しかし、タームの「説明」が“PHPの配列のキー名として使用可能な文字”（半角英数字など）のみで記述されており、かつ各ターム間で重複がないなら、少し修正すれば実現可能です。

<?php
$post_lists = array();
// メインループ
while ( have_posts() ):
    the_post();
    $the_terms = get_the_terms($post, 'taxsonomy-B');
    if ( ! $the_terms ):
        continue;
    endif;
    $the_term = reset($the_terms);
    $the_term_id = (int) $the_term->description;
    if ( empty($post_lists[$the_term_id]) ):
        $post_lists[$the_term_id] = array($the_term->name);
    endif;
    $post_lists[$the_term_id][] = $post;
endwhile;
// サブループ
ksort($post_lists);
foreach ( $post_lists as $term_id => $post_list ):
    // ターム毎のループ
    foreach ( $post_list as $key => $_post ):
        if ( $key === 0 ): ?>
<h3><?php echo $_post; ?></h3>
<?php   else: ?>
<h4><a href="<?php echo esc_url(get_permalink($_post)); ?>"><?php echo strip_tags(get_the_title($_post)); ?></a></h4>
<?php   endif;
    endforeach;
endforeach;
?>

前回のコードから2ヶ所だけ変わっています。
11行目が変わっているのと、17行目と18行目の間に1行追加しています。