Вы задали очень хороший вопрос, который волновал математиков всегда. У этой задачи есть решение. Я не знаю Вашего уровея подготовки, так что начну от простого к сложному. Остановитесь на том этапе, который сами посчитаете для себя достаточным.
Есть алгоритмы вычисления квадратных и кубических корней "в столбик", позволяющие посчитать корень до третьего знака (чего достатоточно для большинства нужд).
Вот примеры этих алгоритмов:
Всё без калькулятора, без регистрации и СМС.
Аналогичные алгоритмы есть для корней более высоких степеней, но на практике не применяется. Для более высоких степеней используются разнообразные численные методы. Например, итерационный метод, описанный вот здесь:
Далее см. Метод Ньютона (он же метод касательных), метод Ньютона-Рафсона, метод секущих, метод одной касательной, ну и т.д. Есть огромная масса численных методов, позволяющих вычислить решение с хорошей степенью точности.