Norbert neprestal byť premonštrátskym kanonikom ani na biskupskom úrade a svoje biele rúcho nosil až do smrti. Raz mu i ktosi vytýkal, že sa šatí pod svoju biskupskú hodnosť. Jeho odpoveď znela: Ukáž mi, kde v Písme, alebo v nariadeniach snemov sa biskupom nariaďuje nosiť čierny talár! Kritik sa odmlčal, ale Norbert pokračoval: Pozoruj, čo hovorí Ecclesiastikus: Vaše rúcho nech je biele! I nemluvniatkam hovorí: Prijmite biele rúcho, teda zachovajte si svoju nevinnosť po celý svoj život, až do príchodu Ježiša Krista.Norbert zostal v srdci verný svojim predsavzatiam, že nikdy nepopustí z prísnosti, ktorou kedysi premohol sám seba. Aký bol vo svojej chudobnej cele v Prémontré, taký zostal aj vo svojom biskupskom paláci. Zostal nielen otcom svojej rehoľnej rodiny, ktorú založil, ale na spôsob veľkorysých duší sa svojou prezieravou múdrosťou staral aj o ostatné rehoľné spoločnosti. Mimoriadne sa zaujímal o benediktínske opátstvo v Bergene. Opáta Arnolda si obľúbil pre dokonalú disciplínu, v ktorej viedol svojich členov rehole. Rád sa utiahol do tohto opátstva, aby sa tam v tichosti a vo vrúcnych modlitbách spájal so svojím Bohom, a tak sa staral aj o spasenie vlastnej duše.
Do Amerslebenu povolal benediktínov, aby reformovali tamojší kláštor, hoci tú istú úlohu mohol zveriť svojim synom, premonštrátom. Počas prítomnosti benediktínov duch tohto kláštora naozaj ožil a rozkvitol. Hrad Scharsfeld v Harze zamenil za kláštor v Aslebene. Takto ho mohol pripojiť ku svojmu biskupstvu a obnoviť v ňom pôvodného rehoľného ducha.
Norbertova rehoľná rodina bola po odchode svojho zakladateľa na biskupský úrad ešte len v začiatkoch svojho jestvovania. Prežívala čas svojho detstva, ktoré potrebovalo pomoc a ochranu. Nastala teda akási kríza, ktorú Norbert predpokladal a v pravý čas zakročil. Vyslal niekoľkých bratov do Prémontré s odkazom, že on, nakoľko je vzdialený a povolaný hájiť vyššie záujmy Cirkvi, nemôže naďalej viesť dom v Prémontré. Z toho dôvodu ich splnomocňuje, aby previedli voľbu svojho predstaveného, ktorý by sa staral o poriadok v dome a v spoločnosti vôbec. Naznačil im, že by sa na to najlepšie hodil brat Hugo, ktorý mu pomáhal pri zakladaní kláštora v Prémontré, ale nevnucoval im svoju vôľu. Všetci jednomyseľne zvolili brata Huga za predstaveného.
Hugo sa v čase voľby zdržiaval v Magdeburgu. V noci nad ránom, v deň voľby, mal videnie: Videl Pána Ježiša prichádzajúceho v sláve. Norbert a on sa mu klaňali. Norbert odporúčal Pánovi Ježišovi svojho nástupcu. Pán Ježiš vystrel svoju pravicu a Norbert na to povedal: Toto je môj milý syn, ktorého si mi zveril. Odovzdávam ho tvojej Velebnosti späť. Neskoršie Hugo sám vyrozprával bratom toto videnie. Nebo i rehoľa súhlasili s voľbou nového vodcu rodiny premonštrátov. Poslovia Norberta ponáhľali vrátiť sa do Magdeburgu a podať mu správu o šťastnej voľbe. Norbert sa nechcel prenáhliť, preto nepovedal hneď Hugovi o jeho zvolení za predstaveného, len prosil Pána Boha o svetlo. Potom zhromaždil svojich bratov, ktorí boli v Magdeburgu a obrátiac sa ku Hugovi povedal: Syn môj, ty budeš mojím nástupcom v dome našej chudoby, podľa voľby všetkých bratov. Hugo padol na kolená a povedal:
Otče, viem, že musím poslúchať, lebo skrze teba rozkazuje moc Najvyššieho. Mám nádej, že ten, ktorý ma svojou milosťou vyznačil, ma aj zachová vo svojej milosti. Keď mi dá Pán požehnanie na moje podujatia, nech ony slúžia na jeho väčšiu česť. Keby však moje hriechy prekážali jeho milostiam, vtedy dovoľ, otče, aby som sa mohol k tebe vrátiť ako k svojmu ochrancovi. Choď v pokoji! Povedal Norbert. Božia ruka ťa bude sprevádzať až do konca.
Hugo bol milým Norbertovým učeníkom. Viac ako osem rokov mu bol duchovným bratom. Po svojom zvolení v roku 1128 pocítil bremeno svojho úradu, pretože necelé dva roky pretrvával v reholi krízový stav. I napriek tej najväčšej horlivosti pod jeho vedením objavovala sa občas neistota a nerozhodnosť. Uspokojenie nastalo až vtedy, keď po dôkladnom zvážení, všetky starosti a trápenia odovzdali do vôle Najvyššieho. Vnútorné vedenie celej rehole sťažovali rozličné okolnosti. Zakladateľ bol od nich ďaleko, opátstva boli na odľahlých, ba i ťažko prístupných miestach. Niektorí členovia rehole boli príliš horliví v zachovávaní prísnosti, iní zasa moc málo. Nebolo jednotných pravidiel, ale aj v týchto veciach čoskoro nastala náprava.
Prvá generálna kapitula sa konala v roku 1130 a predsedal jej Hugo. Prítomní boli: Hautier de s. Maurice, laonský opát od svätého Martina, florefský opát Richard, vivierský opát Henrich, antverpský opát Walmann a opát opátstva Dobrej nádeje, Odon. Prerokovali sa tu tie najdôležitejšie otázky rehole, ktoré boli kapitulou a neskôr i pápežom potvrdené. Dohodli sa teda na týchto bodoch:
1, generálny predstavený je volený doživotne a je hlavou opátov, prepoštov a celého rádu,
2, dňa 9. októbra, na deň svätého Dionýza, sa každoročne zíde kapitula, ktorá pozostáva zo všetkých opátov a priorov, a ktorá je najvyššou a poslednou inštanciou rádu,
3, od tohto času počínajúc, sa zdržovanie od mäsitých pokrmov bude zachovávať po dobu sedem mesiacov, a to od sviatku Povýšenia svätého Kríža do Veľkej noci. V domoch, v ktorých nie je ustavične zavedený pôst, určí sa podľa predpisov iných domov,
4, vo všeobecnosti sa určili povinnosti rehoľných bratov a tiež zvláštne povinnosti. Bol zostavený prvý písomný štatút.
Toto bolo výsledkom rokovania prvej generálnej kapituly. Tu bol položený základ pre presnejšiu organizáciu rehole, ktorým sa zaistil rozkvet čností členov a účinnej práce navonok. Potom sa už kapitula zvolávala každoročne a z roka na rok vzrastal počet jej účastníkov. V druhom roku mala deväť členov, v treťom ich bolo dvanásť a v štvrtom vzrástol ich počet na osemnásť. Hugo sa ešte dožil toho, že počet opátov a priorov kapituly vzrástol na stodvadsať členov.
Norbert plesal od radosti nad blahodarným účinkom Hugových podujatí. Odkedy ho Božia Prozreteľnosť odvolala od svojej rehoľnej rodiny, zatúžil mať vo svojej blízkosti komunitu rehoľných kanonikov. Oproti biskupskému palácu stál kapitulný chrám, ku ktorému patrilo niekoľko kanonikov, pod vedením prepošta. Ich zakladateľom bol v roku 1016 biskup Gereon. Boli vydržiavaní z prostriedkov rotesdorfskej nemocnice, ktorú založil cisár Otto Veľký. Keď Norbert prevzal vedenie magdeburgského biskupstva, kanonici od Kostola preblahoslavenej Panny Márie nežili práve najvzornejším, povzbudzujúcim životom a kostol si tiež vyžadoval značné reštaurovanie. Norbert uvažoval vymeniť týchto kanonikov za svojich a očakával, že nebude narážať na nijaké väčšie ťažkosti. Svoj plán predniesol kráľovi Lotharovi a úmysly kanonikom dómu. Aby nevyvolal nejaký nečakaný odpor, nenápadným skromným spôsobom predložil zainteresovaným kanonikom túto vec a zároveň ich uistil, že z majetkov dostanú podľa dohody toľko, aby o nich bolo postarané až do ich smrti. Kanonici však o tom nechceli ani počuť a svojmu arcipastierovi až hrôzyplným spôsobom odporovali. Vodcom všetkých bol arcidekan Atticus (podľa saského dialektu Hazekon).
Osobne vyhľadal Lothara, aby ho popudil proti Norbertovi. Celý problém predstieral kráľovi ako čosi, čo uráža kráľovskú hodnosť a moc, a pripomenul, že kráľ je povinný chrániť kráľom danú ustanovizeň. Norbert vraj je cudzinec, ktorý nerešpektuje kráľa, posmieva sa mu a neposlúcha ho. Kráľ Lothar však dobre poznal Norberta a Atticusove reči si nevšímal. V roku 1129 schválil Norbertov návrh a tak Norbert povolal do kostola preblahoslavenej Panny Márie svojich rehoľníkov. Listina, ktorú Norbert k tomuto účelu vydal, znela:
V mene svätej nerozdielnej Trojice! Norbert, z milosti Božej arcibiskup magdeburgský.
Všetkým prítomným a budúcim záujemcom dávame vedieť, že po zrelom uvážení sme sa rozhodli pozdvihnúť lesk náboženského života, obnoviť neporušenosť, vykoreniť neprávosti a zveľadiť dobro v magdeburgskej Cirkvi, ktoré sme v nej nachádzali. Presvedčili sme sa, že Kostol preblahoslavenej Panny Márie vnútorne aj navonok pustne. Múry hrozia zrútením, príslušníci kostola ťažko živoria a je postarané len o dvanásť kanonikov kostola, ktorým sú hradené potrebné náklady pre bohoslužby. Časť majetku si rozdelili dôstojníci kniežat, druhá časť je zanedbaná pre nedbanlivosť kňazov. Zvyšok si privlastnili susedia a je slabá nádej, že by bolo možné získať ho späť.
Majúc toto všetko na zreteli, a hnaný túžbou vidieť rozkvet Cirkvi, ktorá je mi zverená, som svojimi prosbami, povzbudzovaním a radami vymohol, že mi kanonici prepustili svoj kostol pre rehoľnú spoločnosť, ktorej členovia vedú spoločný život podľa rehole svätého Augustína a ktorí sa nášmu vedeniu podrobili úplne dobrovoľne. Chtiac pri Chráme preblahoslavenej Panny Márie zaviesť rehoľnú disciplínu a podrobiť jej členov rehoľnému predstavenému, premiestnili sme kanonikov tohto kostola do iného kostola. Niektorí sa umiestnili v Kostole svätého Mikuláša, iní dostávajú dôchodok a životné zaopatrenie z fundácie Kostola preblahoslavenej Panny Márie. Našich rehoľných bratov sme uviedli do práva fundácie pri kostole, a aby sme im zabezpečili pokoj, podliehajú jedine arcibiskupovi a jeho nástupcom, nikomu inému. Aby toto nariadenie bolo platné, potvrdzujeme ho apoštolskou mocou svätých Petra a Pavla. Všetci, ktorí toto zachovávajú, nech sú účastní pokoja a nech obsiahnu odpustenie svojich hriechov. Kto by však ničil ovocie našej práce a násilne by olúpil Kristových chudobných, nech je pod kliatbou až do súdneho dňa.
Vydané po vtelení Krista Pána 29. októbra 1129 v bergenskom opátstve menovanom po svätom Jánovi Krstiteľovi, na predmestí Magdeburgu.
Po založení tohto kláštora sa členovia horlivo oddali misijnej činnosti v slovanskej provincii. Z kláštora preblahoslavenej Panny Márie vychádzali naši misionári, aby v každej časti diecézy vztýčili Kristov kríž. Mali teda rozsiahle pole činnosti, na ktorom pracovali vyše sto rokov. Tento kláštor sa stal ohniskom apoštolskej činnosti, s ktorého sa apoštolská horlivosť šírila medzi Sasmi a Vandalmi všetkými smermi. Tu sa formovali mnohí apoštolsky nadchnutí predstavení a biskupi Nemecka.
Norbert si však všimol vo svojej diecéze aj iné neporiadky, ktoré sa tam zakorenili v priebehu desaťročí. Magdeburg mal chudobinec, ktorý založil prvý biskup tohto mesta, Adalbert. Výťažok chudobinca však miesto chudobným, slúžil výhradne ako prostriedok prepychu boháčov. To Norbert veľmi ťažko niesol. Preto správu tohoto chudobinca zveril kláštoru pri Kostole preblahoslavenej Panny Márie. O tejto reforme sa nám zachoval doklad, ktorý znie nasledovne:
V mene svätej nerozdielnej Trojice! Norbert, z Božej milosti arcibiskup magdeburgský.
Náš predchodca, zbožný Adalbert, založil tu chudobinec, ktorý sa nachádza za Chrámom preblahoslavenej Panny Márie. Na naše veľké prekvapenie sme ho našli v poľutovaniahodnom stave, skoro zničený. Tí, ktorí tam mali dostať celé zaopatrenie, musia si žobraním vyprosiť každodenný chlieb a trpieť biedu. S úmyslom pomôcť im, so súcitom k ich biednemu postaveniu a so súhlasom starších, odovzdávam správu chudobinca a všetko, čo s tým súvisí, rehoľným bratom pri Kostole preblahoslavenej Panny Márie, a to naveky.
Vydané v Magdeburgu v roku 1131 po vtelení nášho Pána Ježiša Krista. Prítomní svedkovia: Lindolf, brandeburský biskup; Gombert, havelbergský biskup a Hartvic, meisenský biskup.
Tento chudobinec slúžil až do roku 1631. Do dňa, ktorý bol tak smutný pre Magdeburg a Sasko vôbec. Magdeburg vyhorel, chudobinec sa stal vyhoreniskom uprostred zrúcanín mesta. Všetko, čo bolo Norbertovou horlivosťou a múdrosťou vybudované, zničila náboženská vojna, rozvratná práca pyšného novátora, Luthera.
Norbert mal aj iné starosti. V Magdeburgu sa nemohol vždy zdržovať, lebo ho odpútavali rozličné štátne záležitosti. Tak v roku 1127 ho vidíme vo Würzburgu s kráľom Lotharom, kde ho sprevádzal spolu s so salzburkým biskupom na sneme. Vtedy šlo o voľbu Gebharda, würzburského biskupa. Títo traja arcibiskupi potrestali Konráda, Lotharovho súpera a nápadníka trónu, cirkevnou kliatbou, lebo sa po niekoľkých úspechoch nechal menovať kráľom. Kráľ Lothar z Würzurgu odišiel do Achenu, kde sa zdržal len krátky čas a dňa 13. júna 1128 sa Norbert opäť stretá s kráľom na jeho kráľovskom dvore. Dôkazom toho je listina, ktorú vydal kráľ, ohľadom Kostola svätého Serváca v Maestrichte, na ktorej je Norbert podpísaný ako svedok.
Dňa 22. júla v tom istom roku navštívil Norbert svoje rodné mesto, ktoré nevidel už desať rokov. Stará kapitula bola obnovená a kolégium malo nový kostol (starý zhorel v roku 1109). Mnoho sa tu zmenilo od roku 1118. Prepoštom tam vtedy bol Godfríd a najstarším kanonikom bol Godeson, keď jeden z kanonikov, aby sa vyhol zlobe svojich nepriateľov, utiekol odtiaľ a teraz je cirkevným kniežaťom s chýrom divotvorcu a svätca. Na žiadosť kolínskeho biskupa, ktorý neporušil priateľskú vernosť, prišiel teda syn Hedvigy, Norbert, do Xantén, aby posvätil nový kostol. Kedysi nevďačné mesto, teraz, keď videlo Norberta vysluhovať slávnostné obrady, bolo naňho naozaj hrdé. Slávnosť posvätenia chrámu trvala dva dni. V prvý deň posvätil Norbert Kostol ku cti svätého Kríža, preblahoslavenej Panny Márie, svätému Viktorovi, patrónovi mesta a svätej Magdaléne. K úcte svätej Magdalény bol zasvätený aj hlavný oltár. Na druhý deň, 23. júna, posvätil vedľajšie oltáre: oltár našej milej Panej v krypte a oltár svätého Petra za hlavným oltárom. Norbert sa radosťou chvel, keď mohol konať posviacku na miestach, ktoré boli svedkami jeho mladosti, keď mohol vidieť zem, kde odpočívajú jeho otec a matka, a kde po prvý raz priniesol obetu Najvyššiemu. Aká bola jeho radosť, keď na predmestí svojho rodného mesta, vo fürstenbergskom kláštore, videl svojich rehoľných bratov. Z Xantén si so sebou odnášal nielen krásne oživené spomienky, ale aj vzácny poklad: telesné pozostatky svätého Viktora, ktorými obdaril opátstvo pomenované podľa Milosti Božej.
