Это задача аналитической геометрии (теории кривых второго порядка) со специфическими условиями.
Гипербола задает определенные соотношения коэффициентов многочлена второго порядка от двух переменных, координаты фокусов - другие соотношения. Наконец, не очень понятная "разница катетов от точки M до фокусов" должна дать последние соотношения. Получится система алгебраических уравнений, и если всех этих условий достаточно, число уравнений должно совпасть с числом коэффициентов многочлена. Если уравнений меньше - значит, условия задачи определяют семейство гипербол.
В любом случае было бы интересно узнать, какое будет решение задачи.