Во время 3-го крестового похода, когда рыцари осаждали Акру, купцы из Любека и Бремена основали полевой госпиталь. Герцог Фридрих Швабский преобразовал госпиталь в духовный орден, во главе которого встал капеллан Конрад. Орден подчинялся местному епископу и был отделением ордена Иоаннитов. 6 февраля 1191 года Папа Римский Климент III утвердил орден как «Тевтонской братии церкви Святой Марии Иерусалимской» (лат. Fratrum Theutonicorum ecclesiae S. Mariae Hiersolymitanae) своей папской буллой.

5 марта 1196 года в храме Акры состоялась церемония реорганизации ордена в духовно-рыцарский. На церемонии присутствовали магистры госпитальеров и тамплиеров, а также светские и духовные лица Иерусалима. Папа Римский Иннокентий III подтвердил это событие буллой, датированной 19 февраля 1199 года, и определил задачи ордена: защита немецких рыцарей, лечение больных, борьба с врагами католической церкви. Орден был подвластен Папе Римскому и императору Священной Римской империи.