En Geometría y Álgebra lineal, una transformación de un espacio prehilbertiano en sí mismo ?donde representa el producto escalar en ? es ortogonal cuando es una aplicación lineal de en sí mismo (un automorfismo) de forma que cualesquiera que sean los se cumple que .

En particular, el conjunto puede ser un espacios euclídeos.

En caso de que sea un espacio vectorial sobre el cuerpo de los números complejos, se dirá que es transformación unitaria.