Die erste Nachricht über die Rosenkranzmadonna Caravaggios findet sich in einem Brief des mantuaner Hofmalers Frans Pourbus d. J an seinen Herrn, den Herzog von Mantua, aus Neapel vom 25. September 1607, in dem Pourbus schreibt, er habe „zwei wunderschöne Bilder Caravaggios gesehen, ein 18 palmi hohes Altarblatt mit einem rosario, für den man nicht weniger als 400 Dukaten verlange“, und eine kleineres Bild („quadro da camera“) mit einer Judith mit Holofernes für 300 Dukaten. Pourbus fügt hinzu, er habe noch kein Offert gemacht, da er des Herzogs Intentionen nicht kenne, die Verkäufer hätten ihm aber ein Vorkaufsrecht eingeräumt. Der Ankauf für den Gonzaga-Herzog, für den Rubens in Rom Anfang 1607 schon Caravaggios Marientod für S. Maria della Scala in Rom (Paris, Musée du Louvre) erworben hatte, wurde nicht realisiert. Aus den Begleitumständen geht hervor, dass die Verkäufer der Bilder die beiden in Neapel ansässigen Maler und Kunsthändler Abraham Vinck (um 1580-1619) und Louis Finson (um 1580-1617) waren. Wir finden dann das Bild 1617, noch immer im Besitz der in die Heimat zurückgekehrten Finson & Vinck, in Amsterdam. Um 1618/19 wird es von einem Konsortium aus Antwerpen, dem u.a. Rubens Jan Brueghel d. Ä. und Hendrick van Balen angehörten, für 1800 Gulden erworben und der Dominikanerkirche von Antwerpen gestiftet.

Dort fand die Rosenkranzmadonna ihren Platz als programmatisches Zentralstück einer 15 flämische Bilder umfassenden Serie mit den einzelnen Geheimnissen des Rosenkranzes . 1781 wurde das Altarbild von Kaiser Joseph II. für die kaiserliche Gemäldegalerie in Wien erworben.