Чтобы выводить фигурные скобки сверху или снизу относительно уравнений, используются команды
\overbrace и \underbrace (соответственно), например:
Код (сверху):
\overbrace{a + b + c + d}^{\alpha} + e + f даст нам:
$\Large \overbrace{a + b + c + d}^{\alpha} + e + f $
А код (снизу):
