В алгебре квадратом числа называется результат умножения этого числа на само себя: так, например, квадратом числа 3 будет число 9 (3*3). Это же самое действие называют возведением в степень - в случае с вычислением квадрата числа это число возводят во вторую степень.
А уравнение называют квадратным потому, что в нем свободная переменная (например, x) стоит во второй степени - то бишь, в квадрате.