La iglesia de Ntra. Señora del Rosario se encuentra situada en la falda noroeste del Peñón. La fecha de su construcción data de antes de 1535. En el año 1595, esta ermita ya estaba construida gracias a la ayuda de las donaciones de los feligreses.
La imagen de Ntra. Señora del Rosario de Peñarroya es de madera talada y parece pertenecer a la segunda mitad del siglo XVI. Esta imagen era compartida por las iglesias de Peñarroya y Belmez, lo que daba lugar a que la imagen de la Virgen fuera transportada, continuamente, de un templo a otro. Este hecho hizo que un vecino de Belmez, Juan Cuello comprara una nueva imagen de Ntra. Señora del Rosario, aunque tenía un tamaño mayor. A partir de aquí se hizo una diferenciación en los nombres; la de Belmez pasó a llamarse Ntra. Señora del Rosario de esta Iglesia, y la de Peñarroya, Ntra. Señora del Rosario de Peñarroya.
En 1810, por Decreto Episcopal, se convierte la ermita de Nuestra Señora del Rosario en Real Iglesia Matriz. Y, el 9 de enero de 1978, la Ermita pasó a ser Parroquia por manifestación de D. Agustín de Ayestarán y Landa, Obispo de Córdoba. Como dato de interés podemos decir que esta parroquia se declaró monumento histórico – artístico local durante los años 80.
La iglesia de Nuestra Señora del Rosario y sus dependencias anexas conforman una edificación exenta realizada en muros resistentes de mampostería, enfoscados y encalados. Posee una sola nave cubierta a dos aguas y presbiterio, separado de aquella por gran arco toral rebajado que descansa sobre potentes pilares. El presbiterio es de planta cuadrada y se cubre por cúpula que, exteriormente, destaca por su mayor altura.
En el muro sur se abre la sencilla portada principal compuesta por arco de medio punto entre pilastras.Adosadas al templo existen varias dependencias: de acceso al camarín, tras la cabecera en el lado este; y otras, situadas en el costado norte, destinadas a despacho parroquial, sacristía y patio con la escalera de acceso a la espadaña. Ésta se sitúa a los pies y consta de dos cuerpos de campanas.
Constituye el más importante símbolo de identidad de la localidad en torno a la devoción a la Virgen del Rosario, patrona de la misma.