Сначала рассмотрим, что здесь означает «Как»? Возможны два варианта: 1) Предложить методику изобретения (типа Теории Решения Изобретательских Задач); 2) Предложить действия, способствующие решению поставленной задачи.
По первому варианту я не готов ответить. Если кого-то заинтересуют попытки найти ответ на этот вопрос, то можете найти в Интернете мою философскую работу «Феномен нового знания…». ТРИЗ для математики не годится, хотя не исключаю, что некоторые из приемов ТРИЗ можно использовать. Поэтому для ответа выбираю второй вариант.
Что нужно сделать, чтобы изобрести что-то принципиально новое в математике?
1) Попытаться решить какую либо проблему века. Например проблему NP-полноты (найти алгоритмы полиномиальной вычислительной сложности для некоторых «переборных» задач или доказать, что универсальных алгоритмов такого типа не существует). При этом надо отбросить сомнения типа «Тут такие умы занимались решением этой задачи, а я кто такой?». Даже если вероятность решения этой проблемы невелика, то все равно в процессе поиска могут прийти в голову решения каких-то частных проблем. И хотя это уже не будет «открытием века», но все равно может считаться изобретением.
2) Если что-то в каком-то общепризнанном разделе математики не все понятно, то попытаться изложить этот раздел другим, более понятным для вас языком. На этом пути тоже возможны изобретения.
3) Многие математические методы используются при решении прикладных задач. Иногда данный метод не дает полного решения или весьма сложен в реализации. Тогда нужно попытаться найти лучший метод решения. Иногда он находится в других разделах математики, иногда удастся изобрести самому.