Как называется процесс исполнения алгоритма?

Так и называется. Ибо у алгоритма есть «исполнитель» - это человек, компьютер, исполняющее устройство и т. д.

В случае исполняющего устройства, это называется «исполнение алгоритма».

Еще это называется «выполнение программы», поскольку запись алгоритма на формальном языке называется программой.

В средах, где исполнитель - человек, это называют «следовать предписаниям».

У вас, очевидно возник вопрос, поскольку алгоритм - это набор инструкций, и, в зависимости от того, какого они рода и кто или что, исполняют инструкции (кто или что исполнитель), то их и действие с ними принято называть в разных сферах иначе.