Используйте обратный слеш и вертикальную черту, например:
\|G^{-1}\| \lt \infty
даст нам: $\Large \|G^{-1}\| \lt \infty $
$ \alpha $
$ \alpha_{i}_{k} $
