А бывает анимация в жанре фильмов ужасов?

Конечно!

Но тут многое зависит от того, насколько хочется саспенса (как например в Silent Hill), а насколько - чего-то с элементами gore (вроде серии Saw).

В первой категории в принципе сложно сделать что-то хорошее, саспенс - дело очень тонкое. В голову сразу приходит только Perfect Blue Сатоши Кона (вообще очень рекомендую познакомиться с его творчеством).

С Perfect Blue, кстати, есть интересная фишка - в свое время Даррен Аронофски выкупил на фильм права, чтобы в точности скопировать одну из сцен в своем "Реквиеме по мечте".

Еще из интересного в плане именно напряжения - Когда плачут цикады, это вообще своеобразная классика жанра и must watch для всех, кто интересуется аниме хоррорами/триллерами.

Во второй категории много вариантов, но не все из них отличаются безупречно продуманным сюжетом и сложной системой персонажей. Можно обратить внимание на Elfen Lied, Corpse Party: Tortured Souls, Адская девочка и т.д.

Хочу отдельно выделить не столько даже анимацию, сколько мангу - обратите внимание на творчество Дзюндзи Ито, хотя бы на его серию о Томиэ. Манга намного более полная и подробная, но если хочется прямо смотреть и бояться, а не читать - то по его манге сняли небольшой сериал - Junji Ito Collection.

Наконец, нечто похожее на Ито - Театр Тьмы, это такой абсолютно безумный кластер пятиминутных короткометражек, посвященных различным городским легендам и ужасам. Очень советую :)