Можно вычислять так:
Цитата "Понятие угла между векторами в комплексном пространстве не вводится." Взято из книги Д.K. Фаддев "Лекции по алгебре", M., "Наука", 1984г., стр. 347