Ставим модификарто перед символом и соответсвенно увеличиваем размер, например:
( \big( \Big( \bigg( \Bigg(
Сравните размер скобок:
$( \big( \Big( \bigg( \Bigg( $
Ещё один пример - сравните - в данном уравнении будет три размера модульных скобок - стандартный (самый маленький в формуле) и два выполненные с помощью команд: