На текущий момент между математикой и фундаментальной физикой отношения таковы, что зачастую физика этой математикой подменяется. И постфактум под полученные формульные выражения придумываются весьма и весьма пространные объяснения, не содержащие никаких или почти никаких аналогий с осязаемым миром.
Что же касается практически применимой физики, то там математика является крайне удобным и полезным инструментом. И отношения в этой области здоровые и взаимовыгодные.