Spanyolországban, nyolcgyermekes család legkisebb fiaként született 1557. szeptember 3-án. A vallásos nevelésben részesülő ifjút 1583. december 17-én pappá szentelték. Egy ideig hazájában maradt, több püspöknek udvari embere, bizalmasa lett. Kényes egyházi ügyek megoldásában jeleskedett, majd teológiai doktorátust szerzett és 1592-ben Rómába ment. Ott hamarosan (1595) belépett a Szent Apostolok testvéri társulásba (Arciconfraternia dei Santi Apostoli), amely a szegények és betegek látogatását, különösen a lecsúszott nemesek támogatásást tűzte ki célul. Látogatásai során megismerkedett a szegények nyers és fájdalmas életével. Figyelmét különösen magukra vonták, szinte meigézték a képzetlen és neveletlen fiúgyerekek.
Az iskolázás akkoriban elég költséges volt. Józsefet pedig egyre inkább az a kérdés foglalkoztatta, hogyan lehetne ezeket a szegény gyermekeket rendszeres, mindennapos iskolázáshoz segíteni. Először a római plébánosokhoz fordult, és kérte, engedjék meg, hogy ezek a szegények is járhassanak a plébániai iskolába. A plébánosok nem zárkóztak el, csak azt kérték, hogy ennek fejében a város emelje meg az iskolák számára nyújtott támogatás összegét. Ezt pedig a városi tanács, a szenátus elutasította. Ekkor József a szerzeteseknél zörgetett tervével. Előbb a jezsuitákat, majd a domonkosokat kereste fel, de mindkét rend azt a választ adta, hogy már túl vannak terhelve meglévő feladataikkal is, egy ilyen újabb vállalkozásban nem tudnak érdemleges segítséget nyújtani. József ekkor belátta, hogy más választás nincs, neki magának kell megpróbálnia megoldást találni. A Trasteverén ingyenes népiskolát alapított. Don Antonio Brendani, a Szent Dorottya- templom plébánosa rendelkezésére bocsátott két termet, s megígérte, hogy maga is segíteni fog a tanításban. További két pappal, tehát négy "tanerővel", 1597 novemberében megnyílt a Szegény Gyermekek Ingyenes Iskolája, a Schola Pia.
Néhány hét múlva már száz gyermek szorongott a két teremben, és a számuk egyre nőtt. Így Józsefnek hamarosan több papot is segítségül kellett hívnia a tanításhoz. Két év múlva már egy egész házat béreltek. Ekkor elbúcsúzott addigi vendéglátójától, és a többi tanítóval az új épületbe költözött, ahol az ő irányítása mellett a tanító atyák közösségi életet éltek. További két év alatt a növendékek száma hétszázra nőtt, ezért 1602-ben a termek számát ismét növelniük kellett.
Hogy a "Kegyes Iskolák" számára biztosabb kereteket biztosítson, 1614-ben Kalazancius elérte, hogy egyesüljenek a barátja, Leonardi Szent János által alapított Luccai Kongregációval, amely szintén foglalkoztak gyerekek és fiatalok lelki gondozásával. Az unió azonban nem bizonyult hosszú életűnek, egyrészt mert Kalazancius a luccai papoknál szigorúbb szerzetesi szegénységre törekedett, más részt pedig luccaiak sem kívánták, hogy az iskolai munka legyen a fő foglalkozásuk. Így 1617-ben V. Pál pápa szétválasztotta őket és önálló szerzetesi kongregációt hozott létre a Kegyes Iskolák Isten Anyjáról nevezett Páli Kongregációja néven. Ezt a következő pápa, XV. Gergely 1621. november 8-án ünnepélyes fogadalmas szerzetesrenddé nyilvánította (törölve elnevezéséből elődje, V. Pál nevét). Így született meg a piarista rend, amelynek Kalazancius által 1620-1621 telén megfogalmazott Konstitúcióit a pápa 1622. január 31-én fogadta el, majd április 22-én kinevezte őt a rend generálisává. Az ünnepélyes fogadalmat négy asszisztensével együtt 1622. április 20-án tette le a Püspöki és Szerzetesi Kongregáció prefektusa, Michelangelo Tonti bíboros kezébe.
91 éves korában, 1648. augusztus 25-én halt meg. Földi maradványait a római Szent Pantaleon templom főoltára alá temették. Nyelve és szíve épségben megmaradt. Sok használati tárgyát őrzik ma is. 1748-ban boldoggá, majd 1767-ben szentté avatták. Ünnepét 1769-ben vették fel a római naptárba, augusztus 27-re. 1969-től augusztus 25-én ünnepeljük. 1948-ban XII. Piusz pápa a katolikus iskolák patrónusának rendelte.