ギャラリーにクラスを追加する なんちゃってな、例です。
gallery_style フィルターは、ギャラリーの親要素の開始タグを返します。
<div id='gallery-1' class='gallery galleryid-40080 gallery-columns-5 gallery-size-thumbnail'>
ポイントは、galleryの後にスペースを付けて置換する事で、他のgallery-xxx クラスまで置換しなくて済みます。
add_filter( 'gallery_style', 'test_gallery_style');
function test_gallery_style($style){
return str_replace('gallery ', 'gallery my-gallery-style ',$style );
}