A Miatyánk imádkozását az evangéliumok tanúsága szerint maga Jézus tanította meg a tanítványainak (Lk 11,2-4). Ezért lett a kereszténység legfontosabb, csoportalkotó és azonosságteremtő, állandó szövegű alapimája, amelynek használata már az őskeresztény egyházban is általános volt. Egyéni kegyességi gyakorlatként való ismétlése a IV. századtól ismert. Az ősegyház imarendje ezidőben templomi imaórákkal is bővült, önkéntes imádkozók szervezésében. Ekkor alakult ki a kórusban, felváltva végzett zsoltározás, a 150 zsoltár közösségben való imádkozása.
A rózsafüzér eredete a IX. századi Írországba vezethető vissza. Abban az időben a 150 zsoltárt tartalmazó Zsoltárok könyve nagyon fontos imakönyv volt a szerzetesek körében. A szerzetesek és a papi klérus tagjai is, órákon keresztül recitálták vagy kántálták ezeket a zsoltárokat (ez fontos szerepet játszott a zsolozsma kialakulásában is). A kolostor környékén élő emberek csodálták és tisztelték ezt az állhatatos imádkozási szokást, de mivel sem olvasni nem tudtak, sem megjegyezni a hosszú zsoltárokat, így bánatukra, ők nem gyakorolhatták ezt az imaformát.
Egy ír szerzetes indítványozta a kolostor környékén élő embereknek, hogy imádkozhatnának a 150 zsoltár helyett 150 Miatyánkot, s hogy számolni tudják az imákat, tegyenek egy erszénybe 150 kavicsot. Ezt az imamódszert már Remete Szent Pál is alkalmazta (419-ben). Később egy kötélre kötöttek 150 vagy 50 (a 150 egyharmadát) csomót, és ezt használták a számolásra. Végül egy kis zsinór terjedt el, melyre 50 darab kisebb fadarabot kötöttek rá.
Damiáni Szent Péter említést tesz arról, hogy ehhez az imaformához elkezdték hozzáadni az Angyali üdvözletet (Lk 1,28). Nemsokára az Angyali üdvözlet átveszi az 50 Miatyánk helyét, illetve a két imádságot egyesítették. Az Ave Maria leglelkesebb támogatója a ciszterci rendet alapító Clairvaux-i Szent Bernát (1090-1153) volt. Legendája szerint 50 Üdvözlégy elimádkozása után úgy érezte, hogy ajkán 50, koszorúvá fonódó rózsa nyílt ki, melyet tisztelete jeléül a Szűzanya fejére helyezett.
Néhány középkori teológus a 150 zsoltárt Jézus Krisztus életének, halálának és feltámadásának elfátyolozott titkainak tartotta. Összeállították ennek megfelelően "A mi Urunk és Üdvözítőnk, Jézus Krisztus zsoltároskönyvé"-t. Ez 150, Jézus tiszteletére szóló dicséretet tartalmazott. Nemsokára Máriának is állítottak össze egy ilyen zsoltárkönyvet, de 150 dicséret helyett 50 dicséretet számoltak. Ezt a százötvenes változatot a 150 zsoltárra emlékezve Mária zsoltároskönyvének (Psalterium Beatae Mariae Virginis), az ötvenes változatot rosarium-nak nevezték, vagyis Mária rózsakoronájának. A titkokat latinul clausulának nevezték, mert ezek zárták le az Üdvözlégy imáját.
1213-ban, az albiak elleni harcban megjelent a Szűzanya Szent Domonkosnak (1170-1221), és mint új és hathatós fegyvert ajánlotta neki a rózsafüzért és kérte, hogy az Üdvözlégyet imádkozzák 150-szer a Miatyánk helyett. Domonkos "feléleszti és elterjeszti" rendjében és a rendhez közelállók között a rózsafüzért. Ezért a domonkosokkal van összekapcsolva a rózsafüzér terjesztése. Ezt Alanus de Rupe, egy domonkos szerzetes a XV. században említi először. Akkoriban tehát a rózsafüzér 150 Üdvözlégyből állt, de az Üdvözlégynek csak az első, szentírási részét mondták.
A XIII. század első felében egy ciszterci szerzetes, Stephanus de Sallay állított először párhuzamba egy Mária tizenöt öröméről készült elmélkedési sort az Ave Mariák sorozatos mondásával. Az azonos szerkezetű elmélkedéseket háromszor öt csoportba állította és imádságokkal választotta el. Az elmélkedésekben a bevezetőt követte Mária örömének megnevezése és a Máriához szóló imádság, a befejezésben az Üdvözlégy köszöntő szavai álltak Jézus nevének elhangzásáig.