Из очевидного: матричные операции (векторные).
А в остальном определятся целями задачи и предметной областью - смотря что за модель, смотря как учим.
Обычно на курсах читают как минимум:
• Линейная алгебра
• Матанализ и методы оптимизации
• Основы теории вероятности
• Матстатистика