Поступать очень легко - заключить многозначность в контейнер. Сказать, что такая функция возвращает не корень а ПАРУ (или неупорядоченную пару) корней, причем однозначным способом. Пара - это один объект.
Примерно также как функции возврсщающие векторы. Вы можете сказать, что вектор размерности n - это n разных значений, но на самом деле функция возращает вектор единственным способом.
Есть, например, линейные операторы, которые преобразуют n-мерные вектор в m-мерные. Это функции из R^n в R^m. Никто же не говорит, что функция обязана быть отображением множества на себя само.
В определеннии ОДНОЗНАЧНОСТЬ указывает не на то, что у вас число получающихся в ответе чисел - единица. ОДНОЗНАЧНОСТЬ - это про то, что Вася и Петя берут это правило и у Васи, и у Пети получается одно и то же.
Таким образом, например, статистическое испытание никакой функцией не является, а вот корни из одного и того же числа у Васи и Пети должны быть абсолютно одинаковыми.