matrix

• matrix -- потомок ndarray но строго двухмерный. Все операции проводимые с ndarray можно проводить и с matrix. matrix Позволяет уможать матрицы обычным знаком умножения (одан из главных преимуществ).

Источник:
https://stackoverflow.com/questions/4151...

Возможно вы просто пытаетесь работать с ndarray как с матрицей (обратное возможно но не такое), а потому можно изменить что-то вроде:

conjugateTransposedMatrix = mtx.getH()

на что-то вроде (сначала получить матрицу из массива):

conjugateTransposedMatrix = np.asmatrix(mtx).getH()