Las Ordenes militares nacieron como consecuencia de las Cruzadas. Durante el asedio de Acre, los cruzados Alemanes fundaron un hospital para sus compatriotas heridos o enfermos. Federico de Suabia que era el emperador en ese momento tomó este hospital bajo la protección de su familia y le concedió propiedades y derechos en Alemania. En 1198 se convirtió oficialmente en orden con el nombre de Orden de Santa María de los Teutones.
Una orden semejante a la de los caballeros hospitalarios de San Juan de Dios aunque menos extensa que esta y con una característica, que además de los tres votos añadían otro más, un cuarto voto que era el de cuidar a los enfermos.
Los Teutónicos siguieron las normas hospitalarias de los Caballeros de San Juan y la estructura militar de los templarios. Los primeros miembros provenían de familias nobles y que tomaban los votos habituales de: castidad obediencia, y pobreza, más el que les obligaba a cuidar a los enfermos. También estaban divididos en tres clases: guerreros, enfermeros y hermanos espirituales.
Los caballeros Teutónicos, asumieron desde un principio deberes de enfermería y militares. Se distinguían por un hábito negro encima del cual llevaban una casaca blanca con una cruz negra bordada en oro sobre el hombro.
Los caballeros Teutónicos también como los Hospitalarios habían empezado como una orden caritativa (actualmente lo es) y cuidaban a los peregrinos alemanes, primero en Jerusalén y luego construyendo un hospital, para los caballeros alemanes heridos, en las afueras de la ciudad de Acre (Palestina), durante el sitio por Ricardo Corazón de León en 1191.
Esta orden fundó un estado militar religioso independiente, Prusia, y luchó activamente contra los paganos del nordeste de Europa. Una vez que abandonaron Tierra Santa, se trasladaron a los estados bálticos de Europa nororiental.
La Orden continuó existiendo en el sur de Alemania hasta que fue disuelta por Napoleón en 1809. Renació en Austria en el año 1834 y mantuvo su identidad a lo largo de todo el siglo XIX pero su actividad estuvo restringida a obras de caridad. En 1918 fue encabezada por un sacerdote y en el año 1929 se restauró por completo su disciplina religiosa.
Con la excepción del periodo de la II Guerra Mundial, la Orden Teutónica se mantiene como una institución asistencial y caritativa desde 1929. Su cuartel general está en Viena, aunque posee casas en diversas zonas de Austria, Italia y Alemania.