Да не надо никакой слишком уж современной математики осваивать. Не надо бегать за веяниями моды. Тут же ясно поставлена задача: "принципиально новое". А если мы имеем дело к каким-то сложным разделом математики, но принципиально новое - там не найти. Потому как там все очень специфично и узконаправлено. Надо в основах копаться. Там где все всем давно известно, и почти все наивно уверены, что ничего нового нет. А на самом деле - эти основы так менять можно... На матлогику взгляните (хотя бы начало у Шеннона), если Вы склонны мыслить слишком уж формально - аксиомы, предикаты, правила вывода. Измените аксиому - все будет иначе. А не формально - плюньте на формализм, станьте раскованней, обретете крылья.