Начнём с конца. Сужение многочлена на M — значит, скажем так, тавтологию: т.е. мы ограничиваем область определения функции на данное множество. То есть рассматриваем не полином на всем R, а только на данном множестве.
Линейность, соответственно, проверяет очевидно: её нужно проверять не везде (как было раньше) а только на M.
Пример: p(x) -> p(x) на отрезке [0;1]. Тогда a p(x) + b q(x) тоже перейдет в a p(x) + b q(x) но уже на подмножестве M. Аккуратно проверьте это сами.
Теперь по поводу ядра. Тут есть два случая:
- M — "большое множество" которое содержит хотя бы счетное подмножество (например отрезок). Тогда надо подумать о том, что многочлен степени n задается своими значениями в n+1 точке, и выведите отсюда что для "большого" множества M мы получим тривиальность ядра (в ноль перейдет только нулевой полином).
- Если M состоит из одной точки, то это уже, конечно, не так. Скажем если M={0} подумайте сами, как описать полиномы переходящие в нулевое значение.
Ещё надо понять, вас спрашивают обо всех многочленах (что странно) или только о многочлены степени не выше чем сколько-то.