Математика - язык? Безусловно, да. Этот язык предназначен для описания предметной области, изучаемой математикой. Математика - такой же язык, как и любой язык программирования.
Математика - это человеческий язык? Конечно, нет. Математика описывает свой идеальный мир, который пересекается с реальным лишь частично. Разные миры предполагают разные базовые понятия.
Яблоко - это одно слово в русском и нетривиальный математический объект, имеющий сложную форму, распределение плотности, вкус, цвет, связанный с объектом яблоня и категорией фруктов, притягиваемый Землей. С другой стороны - мнимая единица - простой математический объект, по попробуйте объяснить его, не используя язык математики.
Пытаться описать предметную область чуждым ей языком - это уподобляться герою анекдота, который пытался описать всех зверей в зоопарке, как разновидности оленей.