Magyary Zoltán 1888. június 10-én született Tatán. Apja honvédezredes volt. Középiskolai tanulmányait a budapesti piarista gimnáziumban végezte, a Budapesti Tudományegyetem Jog- és Államtudományi Karán szerezte diplomáját.

1910 és 1930 között két évtizedet töltött a Vallás- és Közoktatásügyi Minisztériumban, ahol a minisztérium ügykörének több ágában teljesített szolgálatot és miniszteri tanácsosi rangig jutott. 1925-ben a tudománypolitikai ügyosztály vezetője lett, így hatáskörébe tartoztak a magyar–külföldi tudományos kapcsolatok, kongresszusok, a hazai tudományos társulatok, az Országos Gyűjteményegyetem, a vidéki közgyűjtemények és a diák szociális ügyek. Munkaköre 1927-től az egyetemi osztály ügykörével is bővült, így a tudománypolitikai és felsőoktatási terület irányítójaként a modern magyar tudománypolitika megalapozója lett. Az Országos Gyakorlati Közigazgatási Vizsgabizottság elnökhelyettese volt.

1918–19-ben a Budapesti Tudományegyetem meghívott előadója, 1930-tól tanszékvezető egyetemi tanára. Haláláig közigazgatási és pénzügyi jogot oktatott. Az 1937–38-as tanévben a dékáni posztot is betöltötte. 1931-ben az egyetem kötelékében létrehozta a Magyar Közigazgatástudományi Intézetet, melynek igazgatója is lett. E tudományos műhely a közigazgatás kutatásának, korszerűsítésének és oktatásának szellemi központjává vált. 1936 és 1938 között munkatársaival és diákjaival a tatai járásban gazdaságföldrajzi, néprajzi és szociográfiai (tényfeltáró tudományos) felmérést végzett. E munkálat előzménye volt az 1938 októberében Teleki Pál vallás- és közoktatásügyi miniszter rendeletére létesült Táj- és Népkutató Központ, ebben a Pázmány Péter Tudományegyetemen Teleki Pál gazdaságföldrajzi, Györffy István néprajzi és Magyary Zoltán közigazgatástudományi tanszékei vettek részt.

Magyary a közigazgatás jogi, szervezési és társadalmi aspektusainak együttes vizsgálatára törekedett, alapítója volt a róla elnevezett közigazgatás-tudományi iskolának. Világszínvonalú tudományos iskolája elsősorban a modern igazgatástudományt, szervezéstudományt tekintette döntőnek a közigazgatás tudományos megítélésében. Elmélete szerint a közigazgatás megszervezése komplex tudást, tapasztalatokat igényel, ezért a társadalomtudomány több ágát is bevonta a közigazgatási jelenségek tudományos vizsgálatába, így pl. a közigazgatás-tudományokat, a pénzügytant, a szociográfus karakterű szociológiát, a történelem-tudományt. Új diszciplínák kialakulásához is hozzájárult, pl. a közigazgatásra adaptált igazságtudomány, vagy a közigazgatási földrajz kialakulása. A Magyary-iskola államigazgatási jogtudományi eredményei között ki kell emelni a közigazgatási jogszabályok, a kodifikáció, a közigazgatási eljárási törvény témakörében végzett kutatásokat, megjelent monográfiákat, tanulmányokat. A Magyary-féle intézet adta ki 1938-tól 1944-ig a Közigazgatástudomány című szakmai folyóiratot is.

Magyary több nyelven kiválóan beszélt, és többször hosszú külföldi tanulmányutat tett Európa sok országába, 1935-ben saját költségen  a Szovjetunióba is eljutott. Tanulmányútjain gyűjtött tapasztalatai alapján alakította ki a közigazgatás magyar mintáját.

1931-ben Bethlen miniszterelnök felkérte a magyar közigazgatás racionalizálásának kormánybiztosává. Erről a posztról 1932-ben lemondott, mert az általa kívánt reformok megvalósításának nem volt realitása, a kormányzás menedzseri szemlélete ugyanis ellentétes volt az akkori politikai és adminisztratív elit értékrendjével és érdekeivel, pedig a Magyary-féle program alkalmas lett volna arra, hogy végrehajtásával, az ország jóval hatékonyabb közigazgatáshoz jusson.

A harmincas–negyvenes években születtek meg a Magyary-életmű nagy szintézisei, amelyek a magyar közigazgatás kutatásának és építésének több szempontból is alapvető műveivé váltak. 1932–33-ban az amerikai közigazgatás tanulmányozása nagy hatással volt Magyaryra, tapasztalatait külön kötetben publikálta 1934-ben Amerikai államélet címmel. 1942-ben jelent meg legfőbb műve, a Magyar közigazgatás, amely az egyetlen magyar közigazgatás-tudományi iskola eredményeinek összegzése. A könyv első részében a közigazgatás-tudományi alapfogalmakat, a másodikban a magyar közigazgatás szervezetét, a harmadikban pedig annak a működését foglalja össze. Művének legfontosabb üzenete, hogy a közigazgatás egységes, nem lehet külön kezelni az önkormányzati és az államigazgatási szektort, az irányítás egyes szintjeit, mint ahogy a személyzetet és a szervezetet sem.

Magyary széles körű nemzetközi kapcsolatokkal rendelkezett, a nemzetközileg is elismert tudósként több külföldi egyesületnek és szervezetnek volt tagja és tisztségviselője. Először 1923-ban vett részt a II. Nemzetközi Közigazgatási Kongresszuson. 1933-ban, az V. kongresszuson Bécsben előadást, 1936-ban a VI. kongresszuson már főreferátumot tartott. E tanácskozás témáját Magyary A közigazgatás legfőbb vezetése szervezési szempontból című tanulmánya szolgáltatta, amit a kongresszus egyhangúan elismert, és a brüsszeli Institut International des Sciences Administratives a tudóst alelnökévé választotta.

Magyary eszméinek gyakorlati megvalósításával is próbálkozott, 1938 után népfőiskolát szervezett a tatai járásban, ahol a tanítványaival és munkatársaival magas tudományos igényességgel és nagy szociális érzékenységgel látott hozzá a tatai településfejlesztési modell, az önkormányzati mintajárás kifejlesztéséhez. Az állampolgárokat hatékonyan szolgáló, az emberekért levő közigazgatást kívánta itt megvalósítani. Tanítványával, Kiss Istvánnal közösen írt erről 1939-ben A közigazgatás és az emberek című művében.

A német megszállás után Tatára menekült feleségével, Techert Margit filozófussal. Szálasi hatalomátvétele után el akarták hagyni az országot, de a határról visszafordultak. A Tata melletti Héregen bújtak meg, de az átvonuló szovjet csapatok atrocitásainak következtében 1945. március 24-én feleségével együtt öngyilkosok lettek. Tatán található sírjuk.

A magyar polgári közigazgatás-tudomány legnagyobb hatású, külföldön is elismert egyéniségét halála után politikai okokból évtizedekig elhallgatták, bár az intézet eredményeit felhasználták, pl. az 1957-ben megalkotott törvényhez, az államigazgatási eljárás szabályairól. A hetvenes évektől, különösen még élő tanítványainak és az utódnemzedék tiszteletének köszönhetően, megkezdődött a rehabilitációja.