画像をカテゴリあるいはタグで分類したいのですが・・・

画像もポストとして管理されるので、画像にもタクソノミーを付ければよいと思います。

register_taxonomy(
    'image_category',     // カスタム分類名
    array('attachment'),  // 紐づける投稿タイプは、 attachment
    array(
　　　　:
    );
);

プラグインなら、Simple Taxonomy でタクソノミーを登録しつつ、画像（attachment）にタクソノミーを付けることができます。

タクソノミーではなく、カテゴリーや投稿タグの方が都合がいいのなら、

add_action('init', 'add_category_to_attachment');
function add_category_to_attachment() {
    // 画像にカテゴリーを付ける
    register_taxonomy_for_object_type('category','attachment');
    // または、
    // 画像に投稿タグを付ける
    register_taxonomy_for_object_type('post_tag','attachment');
}

画像のポストも通常のポストと同じように、タクソノミー（ターム）を条件に抽出できます。get_posts() でも query_posts() でも抽出できます。