Попробуйте Поппи Брайт - если нужна графичность. Если устроит эмоциональная (преимущественно) сторона нетрадиционных отношений - "Маленького друга" Ханьи Янагихары. Про инцест есть серия книг Вирджинии Эндрюс "Цветы на чердаке", но, подозреваю, это ближе к дамскому роману, чем к Набокову (сама не читала, только наслышана). На эту же тему есть "Цементный сад" Макьюэна, но, на мой вкус, это всё-таки ближе к Набокову, да и больше про то, что бывает, если детей оставить без присмотра, чем про инцест как таковой. Есть ещё такое весьма высокохудожественное гей-порно - "Телени". В народе авторство приписывают Оскару Уайлду, но скорее всего написал его один из его учеников.
Фолкнер "Святилище".
Американский Балабанов.
Мрачно и кратко. Но сквозь авторский стиль придется продираться поначалу, очень он какой то корявый, и в именах героев начинаешь ориентироваться только к середине.
Генри Миллер хорошо писал эротические произведения, как раз с такими нотка. Ну и конечно Маркиз де Сад, но это уже больше грязь, но это на мой взгляд, кому-то в самый раз
Рю Мураками "Дети из камеры хранения" и "Киоко". Вообще у него почти все книги читала. Если уж хотите именно такой стилистики то Вам к нему. Палланик отдыхает рядом с ним
В лимоновском "Подростке Савенко" много секса, несовершеннолетних, насилия, насильственного секса. И, конечно же, рефлексий главного героя на эти темы.