Выпуклая функция, вогнутая функция - определение (вверх/вниз)

Функция $f(x)$ называется выпуклой на некотором интервале $(a, b)$, если для $\forall x_1, x_2 \in (a, b)$ и коэффициентов $\alpha_1$, $\alpha_2$: $\alpha_1 \geq 0, \alpha_2 \geq 0, \alpha_1 + \alpha_2 = 1$, справедливо неравенство:

$$f(\alpha_1 x_1+ \alpha_2 x_2) \leq \alpha_1 f(x_1) + \alpha_2 f(x_2) $$

Геометрически данную ситуацию ("выпуклая функция") можно изобразить так:

Иногда уточняют, называя такую функцию "выпуклой вниз".

Вогнутой же (на данном отрезке) функции будет соответствовать неравенство:

$$f(\alpha_1 x_1+ \alpha_2 x_2) \geq \alpha_1 f(x_1) + \alpha_2 f(x_2) $$

Вогнутую функцию могут называть "выпуклой вверх".

Вывод: выпуклость/вогнутость/вверх/вниз зависит от принятой терминологии - надо просто смотреть какое именно неравенство подразумевается =)