V roce 1128 bylo do řádu přijato prvních 300 rytířů. Bylo potřeba nějak řád rozčlenit a vytvořit tak hierarchii. 

Na samém vrcholu byl velmistr, který řídil činnost řádu a měl vždy nezlomné poslední slovo. Byl zodpovědný pouze jediné osobě na světě, papeži. 

Dále jeho pravou ruku tvořil Senešal, který pomáhal řídit řád. 

Velmistr a Senešal spravovali 10 provincií, jmenovitě Jeruzalém, Antiochie a Tripoli ve Svaté zemi a Francie, Anglie, Anjou, Apulie, Portugalsko, Maďarsko a Poitou v Evropě. 

Tyto provincie byli vedeni Velkým Priorem nebo Velkopreceptorem a Velitelem. Velitelé provincií měli pod sebou velitele komend, kteří řídili správu jednotlivých domů a hradů.

Dále zde byl velitel jezdectva, turkopolier - velitel pomocných zborů složených z místního obyvatelstva, a velitel přístavu Akkon.

Každý z domů byl spravován Preceptorem, hlavním hospodářským správcem, pod kterého spadali rytíři a servienti. 

Ve 13. století byl přidán nový post do hiearchie - Visitor řádu. Jeho úkolem byla správa provincií v Evropě.

Později zavedli templáři něco jako čestné členství, pro lidi, kteří je podporovali finančně i zbrojně, ale nebyli přímo členy řádu.

Souběžně s touto vojenskou hierarchií existovala i hierarchie kněžská. V jejím čele stál "klášterní kaplan", kaplan kláštera v Jeruzalémě. Každá komenda měla své kaplany.

Řád byl proto rozdělen do tří tříd. 

První byli vlastní bratři (rytíři), kteří museli být svobodní a vznešeného původu. Odlišovali se oděvem, bílým pláštěm, na který byl později (r. 1146 - papež Eugenius III.) přidán červený kříž; plášť symbolizoval nový život v čistotě, kterému se každý z rytířů zasvětil. Na každého rytíře připadalo zhruba deset serantů. 

Druhá třída, všeobecně nazývaná seranti, byla tvořena příslušníky svobodného měšťanstva. Seranti působili jako těžkooděnci, strážní, podkoní, správcové apod. Nosili červený templářský kříž na černém nebo tmavě hnědém plášti. 

Třetí třídou byli klerici, kněží, kteří byli kaplany řádu, a protože jako jediná skupina měli nárok být gramotní, často působili jako písaři, pořizovali záznamy a starali se o další úkoly nevojenského charakteru. Klerici také nosili templářský kříž, na zeleném plášti. Nosili také neustále rukavice, aby měli ruce čisté, "když se dotýkali Boha" při sloužení mše. Klerici byli hladce oholeni, zatímco rytíři si museli nakrátko stříhat vlasy, ale vousy museli nechat růst.

Během půl století měl řád 5-6 tisíc rytířů a asi desetkrát tolik pěších, sice roztroušených na dvou kontinentech, ale existujících. Na vrcholu moci měl řád 200 tisíc bojovníků na dvou kontinentech a spravoval 9 tisíc hradů.