По каким авторитетным книгам (учебникам) можно с нуля самообучиться математике и/или физике, чтобы описать свою новую теорию?

Математика

1. Гельфанд, Шень "Алгебра". Поможет закрыть пробелы в школьной математике 5-9 классов и подготовит к более сложным разделам математики
2. Атанасян "Геометрия" 7-9 классы и 10-11 классы. Вся теория оттуда не нужна, но необходимо хорошо знать (и понимать откуда берутся) формулы площадей (треугольника, четырёхугольников, круга), объёмов (параллелепипед, пирамида, шар, конус, цилиндр, призма), понимать синусы-косинусы-тангенсы, теорему косинусов, скалярное произведение векторов, координаты
3. Любой учебник алгебры и начал анализа для 10-11 класса (например, Мордкович). По тригонометрии есть хорошая книга: Гельфанд, Львовский, Тоом "Тригонометрия". Задачники: Сканави или Ткачук. На этом этапе главное - научиться тождественным преобразованиям выражений, уметь решать основные виды уравнений, неравенств и систем и уметь строить графики. Пройти нужно многочлены, рациональные функции, модули, иррациональные выражения, показательные функции, логарифмы и тригонометрию. Упомянутые книги целиком покрывают весь этот материал
4. Зельдович "Высшая математика для начинающих физиков и техников". Здесь очень важно разобраться с понятиями производной, интеграла (методы интегрирования по частям и замены переменной) и простейших дифференциальных уравнений. Книжка хороша тем, что объясняет всё с физической точки зрения, без лишнего формализма. Далее можно переходить к более серьёзным курсам
5. Матанализ. Учебников много, выбирайте какой больше нравится:

а) Зорич "Математический анализ" в двух томах. Если хотите серьёзно подойти к изучению матана - курс очень хорош

б) Фихтенгольц "Курс дифференциального и интегрального исчисления" в трёх томах. Очень серьёзный фундаментальный курс. Несмотря на немного устаревший язык, читается легко и понятно, т.к. разбирается много примеров

в) Ильин, Позняк "Основы математического анализа" в двух томах. Лично мне не очень нравится

г) Бутузов "Математический анализ" в трёх частях. Кратенький курс, хорош если охота побыстрее пройти основные темы, не вдаваясь в подробности

Обязательно решать задачи. Задачники:

а) Бутузов "Математический анализ в вопросах и задачах"

б) Демидович "Сборник задач и упражнений по математическому анализу"

Вообще, цель курса - разобраться с пределами, производными, интегралами (неопределёнными, определёнными, двойными, тройными, криволинейными, поверхностными), понимать асимптотику функций, уметь раскладывать функции в ряды Тейлора и Фурье, освоить преобразование Фурье

6. Свешников, Тихонов "Теория функций комплексной переменной". Задачник - Волковыский, Лунц, Араманович "Сборник задач по ТФКП". Цель курса - освоить формализм комплексных чисел, понятия аналитического продолжения, аналитичности функций, ряды Лорана, вычеты, и вычисление определённых интегралов с помощью вычетов. ТФКП пропускать никак нельзя, в теор. физике используется очень часто

7. Овчинников "Алгебра и геометрия для студентов-физиков". Очень хорошее пособие по аналитической геометрии. Задачник - Овчинников "Алгебра и геометрия в вопросах и задачах". Цель курса - освоить координатный метод, векторную алгебру (скалярное, векторное, смешанное произведение векторов), матричную алгебру, определители матриц и их смысл, научиться обращаться с эллипсами, гиперболами и параболами

8. Линейная алгебра. Книг много, посоветовать могу вот что:

а) Кострикин "Алгебра" в трёх томах, и его же задачник, если хотите серьёзно разобраться (там не только линейная алгебра, но ещё и группы, кольца, поля и много чего ещё)

б) Винберг "Курс алгебры". Аналог учебника Кострикина, стоит читать если Кострикин не зашёл

в) Кострикин, Манин "Линейная алгебра и геометрия". Это уже хардкорный вариант, если предыдущие показались простыми

г) Лекции Овчинникова на YouTube. Очень хорошее введение в предмет, если с нуля то лучше наверно не найти

д) Ильин, Позняк "Линейная алгебра". Очень не люблю этот учебник, но на физфаке советуют его, так что просто оставлю здесь

е) Задачник "Линейная алгебра в вопросах и задачах" Бутузова и др.

Цель курса - подвести к понятиям линейного оператора и тензоров

9. По дифференциальным уравнениям учебник - Понтрягин, задачник - Филиппов. По интегральным уравнениям и вариационному исчислению есть пособие с физфака МГУ - авторы Волков, Ягола. У них же есть книжка "ИУиВИ. Методы решения задач". Также по ВИ и дифференциальным уравнениям есть книга - Эльсгольц "Дифференциальные уравнения и вариационное исчисление". Этого более чем достаточно

10. Тихонов, Самарский "Методы математической физики", задачник - Боголюбов, Кравцов "Задачи по математической физике". Если не понравится этот учебник - есть облегчённый вариант: Свешников, Боголюбов, Кравцов "Лекции по математической физике"; есть ещё физтеховский вариант - Владимиров "Уравнения математической физики". Цель курса - уметь решать уравнения Лапласа, Пуассона, Гельмгольца, уравнения колебаний и теплопроводности в различных областях; освоить аппарат спец. функций

11. Колмогоров, Фомин "Элементы теории функций и функционального анализа". Для квантовой механики хорошо бы знать интеграл Лебега и разбираться в гильбертовых пространствах и операторах, в них действующих, и нужно знать обобщённые функции (дельта-функция Дирака). Учебник для математиков, но написан хорошо и понятно, проблем быть не должно

12. Дубровин, Новиков, Фоменко "Современная геометрия" в двух томах. Нужно освоить, если планируете разбираться в ОТО

По математике вроде бы всё, вряд ли вам в физике встретится что-либо ещё. Если будете, конечно, в КТП или теорию струн лезть - там нужна продвинутая теория групп, но думаю сами разберётесь, если дойдёте до такого уровня.

В школьную физику можно сильно не углубляться, главное уметь решать основные типы задач и знать самые основы теории, после чего можно переходить к курсу общей физики. Хорошо подойдёт учебник Игоря Яковлева (можно легко найти в интернете), задачник - Рымкевич (задачи простые, на запоминание формул), Гольдфарб (более сложные задачи), Козел (задачи уровня олимпиады "Физтех"). Можно почитать курс Ландсберга или Мякишева, если есть время, но смысла в этом не особо много. Научились решать задачи - переходите сразу к общей физике. Найдите программу курса, например, на сайте кафедры общей физики физфака МГУ. По всем разделам общей физики выложены лекции на YouTube преподавателей физфака МГУ, смотрите, если по учебникам непонятно. В учебниках читайте не всё подряд, а по темам в соответствии с программой

1. Механика. Учебники - Сивухин, Матвеев, Алешкевич. Для разбора основных типов задач смотрите "Методику решения задач" физфака МГУ и "Методы решения задач в общем курсе физики. Механика" (Корявов). Задачники - Иродов и Сивухин
2. Молекулярная физика и термодинамика. Учебники - Сивухин, Матвеев, Алешкевич (мне лично больше нравится Матвеев). Для разбора основных типов задач опять же смотрите "Методику решения задач" физфака МГУ и "Методы решения задач в общем курсе физики. Термодинамика и молекулярная физика" (Корявов). Задачники - Иродов и Сивухин
3. Электромагнетизм. Учебники - Сивухин, Матвеев, Алешкевич, Калашников. Для разбора основных типов задач опять же смотрите "Методику решения задач" физфака МГУ и "Методы решения задач в общем курсе физики. Электричество и магнетизм" (Корявов). Задачники - Иродов и Сивухин
4. Оптика. Учебники - Сивухин, Матвеев, Алешкевич, Ландсберг. Для разбора основных типов задач опять же смотрите "Методику решения задач" физфака МГУ и "Методы решения задач в общем курсе физики. Оптика" (Корявов). Задачники - Иродов и Сивухин
5. Атомная физика. Учебники - Попов, Тихонова "Лекции по атомной физике", ну и опять же Матвеев или Сивухин; есть ещё двухтомник Шпольского "Атомная физика". Если понимание совсем не идёт - можно почитать Фейнмана. Для разбора основных типов задач - "Методика решения задач по введению в квантовую физику" физфака МГУ. Задачник - Красильников
6. Ядерная физика. Учебники - Ишханов, Капитонов, Юдин "Частицы и атомные ядра"; Капитонов "Введение в физику ядра и частиц". Задачник - Гончарова, Ишханов (там же есть разбор основных типов задач). Курс сам по себе почти научно-популярный

Теоретическая физика

1. Теормех - Голдстейн "Классическая механика", Ольховский "Курс теоретической механики для физиков". У Ольховского есть и задачи. Ландау-Лифшица не советую
2. Электродинамика - лекции Денисова (легко найти в интернете книжку, очень хорошее пособие)
3. Квантовая механика - Иванов "Как понимать квантовую механику" (серьёзный учебник, несмотря на почти научно-популярное название)
4. Термодинамика и статистическая физика - Квасников "Термодинамика и статистическая физика"

Это общий курс для всех физиков, независимо от направления последующей деятельности. Если уж до этого уровня дойдёте, дальше сами разберётесь, какие книги и монографии читать