ある特定のタグを持つ記事を非表示にしたい。

tag__not_in には「タグ名」「タグスラッグ」ではなく「タグID」を指定します。
イチイチID調べるのはチョットな場合は get_term_by() で 名/スラッグ -> ID 変換できます。

$id = get_term_by( 'name', 'tag2', 'post_tag' )->term_id; //tag2がタグ名の場合
//$id = get_term_by( 'slug', 'tag2', 'post_tag' )->term_id; //tag2がタグスラッグの場合
query_posts( array( 'tag__not_in' => array( $id ) )  );
if ( have_posts() ) :
  while( have_posts() ) :
    the_post();
    ?>
    <h2><?php the_title(); ?></h2>
    <p><?php the_excerpt(); ?></p>
    <?php
  endwhile;
endif;
wp_reset_query();

query_posts() と wp_reset_query() の間のループ処理はお好みで◎

サイドバーに「最新の記事投稿」があるのですが、ここにも「info」タグのものを表示しない

可能ですけど長ーくなります。逆に info の投稿はどこで表示しますか？
info 投稿の表示しなさ具合によっては、もっと簡単にできます。

もっと簡単：例）管理画面以外で info を表示させない。
テーマフォルダの functions.php に以下を追加。
※今までの query_posts()〜wp_reset_query() の処理は全部不要です。

<?php
add_action( 'pre_get_posts', 'my_pre_get_posts' );
function my_pre_get_posts( $q ) {
  if ( ! is_admin() ) {
    $id = get_term_by( 'name', 'info', 'post_tag' )->term_id;
    $q->query_vars['tag__not_in'] = array( $id );
  }
}
?>

長いですけど「もっと簡単」は無かった事にして、infoを表示させない最近の投稿ウィジェットを作ります◎
functions.php に以下を追加：

<?php
add_action( 'widgets_init', 'my_widgets_init' );
function my_widgets_init() {
  register_widget('my_widget_recent_posts');
}
class My_Widget_Recent_Posts extends WP_Widget_Recent_Posts {
  function My_Widget_Recent_Posts() {
    $widget_ops = array('classname' => 'my_widget_recent_entries', 'description' => 'info以外の最新の投稿' );
    $this->WP_Widget('my-recent-posts', __('Recent Posts'), $widget_ops);
    $this->alt_option_name = 'widget_recent_entries';
    add_action( 'save_post', array(&$this, 'flush_widget_cache') );
    add_action( 'deleted_post', array(&$this, 'flush_widget_cache') );
    add_action( 'switch_theme', array(&$this, 'flush_widget_cache') );
  }

  function widget($args, $instance) {
    $cache = wp_cache_get('my_widget_recent_posts', 'widget');
    if ( !is_array($cache) )
      $cache = array();

    if ( isset($cache[$args['widget_id']]) ) {
      echo $cache[$args['widget_id']];
      return;
    }

    ob_start();
    extract($args);

    $title = apply_filters('widget_title', empty($instance['title']) ? __('Recent Posts') : $instance['title'], $instance, $this->id_base);
    if ( ! $number = absint( $instance['number'] ) )
      $number = 10;

    $id = get_term_by( 'name', 'info', 'post_tag' )->term_id;
    $r = new WP_Query(array('tag__not_in' => $id, 'posts_per_page' => $number, 'nopaging' => 0, 'post_status' => 'publish', 'ignore_sticky_posts' => true));
    if ($r->have_posts()) :
?>
      <?php echo $before_widget; ?>
      <?php if ( $title ) echo $before_title . $title . $after_title; ?>
      <ul>
      <?php  while ($r->have_posts()) : $r->the_post(); ?>
      <li><a href="<?php the_permalink() ?>" title="<?php echo esc_attr(get_the_title() ? get_the_title() : get_the_ID()); ?>"><?php if ( get_the_title() ) the_title(); else the_ID(); ?></a></li>
      <?php endwhile; ?>
      </ul>
      <?php echo $after_widget; ?>
<?php
      wp_reset_postdata();

    endif;

    $cache[$args['widget_id']] = ob_get_flush();
    wp_cache_set('my_widget_recent_posts', $cache, 'widget');
  }
}
?>

管理画面の［外観｜ウィジェット］で「info以外の最新の投稿」ってゆー新しい「最近の投稿ウィジェット」ができてるはずなので、ソッチを使うようにしてください。