Оператор -- что это в математике

Оператор -- в общем случае оператор это то же, что функция, напомним:

Функция -- правило, по которому элементу из одного множества $X$ ставится в соответствие конкретный (единственный) элемент из другого множества $Y$.

Однако: в конкретных разделах математики для понятия оператор, может уточняться какие свойства у множеств и $X$ и $Y$ (к этим множествамм могут предъявляться определённые требования), и какими именно элементами эти множества наполнены.

Например, множества могут быть наполнены функциями ("пространство функций"):

В отличие от действия функции, при котором из одного числа по определенным правилам получается другое число (несколько чисел), при действии оператора из одной функции по определенным правилам получается другая функция (семейство функций).

-- в этом случае можно сказать, что оператор это функция, которая работает с другими функциями.