Я так понимаю, что не в "литературе", а в "литературоведении"? Потому что в литературе есть романы про математиков, используются формулы и в целом - это обыденность.
В литературоведении при помощи математических методов анализа можно было бы, например, работать со стилем.
Знаменитый вопрос - написал ли Шолохов "Тихий Дон" можно было бы решить, например, математически замерив словарный запас. Использование прилагательных у Шолохова в ТД и в других рассказах. Сочетания слов. Темп подачи информации. Склонность к инверсиям. Типичные тавтологии.
Второй момент - это освобождение текста от "воды". Легко вычислить сам метод наливания воды, используемый не только автором художественных текстов, но и спичрайтером, и математически основанная система анализа могла бы давать быстрый результат.
Этим мог бы заняться вычислительный прибор, созданный математиком по заданию литературоведа. Если Вы хотите лично заняться этим прибором - то давайте сотрудничать:)