Самый главный математический миф, это миф о том, что существует короткий вариант доказательства "теоремы" Ферма! Сколько ресурсов математиков(ну и нематематиков) любителей потрачено на нахождение этого "утерянного" доказательства!
А в общем в этой "ветке" поразительные по содержательности ответы. Хотя мой, вероятно, не намного более содержателен. Автор же спрашивает не про миф о науке "математика", а о математическом мифе. Понимаю, что буквально таковых может и нет - а вот заблуждений в основе которых лежит незнание математики(логики, теории вероятности, булевой алгебры и проч.) достаточно. Чаще они называютсят(математическими) парадоксами, но не всякий парадокс даже с натяжкой можно отнести к мифу. Т.е., если я правильно понял суть вопроса, математический миф - это задача, решение которой противоречит здравому смыслу - миф о том что здравый смысл "правильнее" математики.
Например: парадокс Монти Холла https://ru.wikipedia.org/wiki/%D0%9F%D0%B0%D1%80%D0%B0%D0%B4%D0%BE%D0%BA%D1%81_%D0%9C%D0%BE%D0%BD%D1%82%D0%B8_%D0%A5%D0%BE%D0%BB%D0%BB%D0%B0
" Представьте, что вы стали участником игры, в которой вам нужно выбрать одну из трёх дверей. За одной из дверей находится автомобиль, за двумя другими дверями — козы. Вы выбираете одну из дверей, например, номер 1, после этого ведущий, который знает, где находится автомобиль, а где — козы, открывает одну из оставшихся дверей, например, номер 3, за которой находится коза. После этого он спрашивает вас — не желаете ли вы изменить свой выбор и выбрать дверь номер 2? Увеличатся ли ваши шансы выиграть автомобиль, если вы примете предложение ведущего и измените свой выбор? "
Игра Пенни https://ru.wikipedia.org/wiki/%D0%98%D0%B3%D1%80%D0%B0_%D0%9F%D0%B5%D0%BD%D0%BD%D0%B8
"
Ситуация эта малоизвестна, и большинство математиков просто не могут поверить в неё, когда слышат об открытии Пенни. Это — заведомо самое красивое надувательство (если надувательство может быть красивым), рассчитанное на простака.
— Гарднер Мартин. «Путешествие во времени»[1]"
итд!
Мне вот например, нравится
"
Итак, у нас есть три шестигранных кубика на гранях, которые есть следующие цифры:
144444
333336
222555
Два игрока, каждый выбирает по одному из кубиков, с каким кубиком побед больше?"
Авторы этих парадоксов Гарднер, Смаллиан, Беллос, и конечно Стюарт.
Но есть и другие "мифы", например, великий Эйлер предполагал, что теорема ферма может быть расширена до трех слагаемых, в частности a^4+b^4+c^4<>d^4, только в 1986 удалось найти контр пример...
Или миф, о том e^pi*(163)^0.5 - целое число)
итд итд
Так гуманитарием, по определению, и называется тот, кто поленился выучить математику. )))