Как называют выражения вида ax^n, где n<0, a ≠ 0?

Зависит от учебника. Могут называть дробным выражением, дробно-рациональным выражением, алгебраической дробью.

Общепринятого названия не существует, насколько мне известно.