Точного определения нет. Попробую провести пример как я это вижу. Допустим смартфон заговорил с владельцем.
Если им овладела демоническая сущность чтобы мучить души людей и затаскивать их в ад и владелец очень сильно перепугается, сошёл с ума и его душа действительно попала в ад- это мистика.
Если им овладела демоническая сущность чтобы мучить души людей и затаскивать их в ад и владелец лёгким движением волшебной палочки изгнал зло и принялся строчить гневный комментарий производителю по поводу ужасной защиты от демонов - это фэнтези.
Если им овладела демоническая сущность чтобы мучить души людей и затаскивать их в ад и владелец сдал смартфон в лабораторию, где выяснили что демонов не бывает, а смартфон в результате редчайшего стечения обстоятельств обрёл самосознание и начитался современной литературы из интернета, то это фантастика.
А по поводу существ - штампы ленивых авторов. В принципе русалка может быть в мистике, роботы с ИИ в фэнтези, а эльфу в фантастике.