テーマによって違うと思いますがサイドバーのタイトルがh2でくくられているテーマも多いです。
h2がSEOに関係あるかないかはわかりませんが、h2にキーワード詰め込みすぎるとペナルティあるってことはGoogleも多少は見てるってことなんんじゃないかと思っています。
サイドバーにh2とかあると検索エンジンに優しくないっぽいので消しましょう。
参考
WordPressのサイドバーウィジェット(widget)をh2からh3に変更
こちらはfunction.phpを使ってh2をh3に書き換えてしまう方法です。
とてもスマートですが、僕はh3も使いたくなかったので別のやり方にしました。
やり方は簡単。
widgetを全部テキストで書いてタイトルを空欄にすればよいです。
タイトルラベルもHTMLで書けばいいですね。
カレンダーなんかもタイトルを空白にすればh2タグはつきません。
カレンダーはカレンダーと見てわかるのでラベルは必要ないですね。
タグクラウドはSimple Tagsのものを使えばタイトルを空白で使えばいいですしテキストフィールドに
<?php wp_tag_cloud(); ?>
を書けば呼び出せます。
順調にアクセス伸びてるのでこの施策がうまくいってるのかわかりませんが、ページから余計なhタグが消えて気持ちがスッキリしました。