знаю точно, что вы там изучаете пределы функций. Пределы (отчасти проходят в школе 11 класс) материал из мат.анализа. Соответственно прочтите книги по матану по этой теме. Еще на специальности проходят основы высшей математики, то бишь матрицы, вычисление определителя, Метод Гаусса и пр. Поэтому вам нужно еще и немного линейной алгебры захватить. А вообще, это все легко(ну,правда..) думаю, что вам все расскажут и так.
Прочитайте Нассима Талеба "Черный лебедь".
Это поможет понять ограничения применения всех этих лимитов, матриц и прочих Гауссовых коней в вакууме.