Чтобы выводить фигурные скобки сверху или снизу относительно уравнений, используются команды
\overbrace
и \underbrace
(соответственно), например:
Код (сверху):
\overbrace{a + b + c + d}^{\alpha} + e + f
даст нам:
$\Large \overbrace{a + b + c + d}^{\alpha} + e + f $
А код (снизу):