De harmonie werd aanvankelijk opgericht als Kerkelijke Fanfare op 8 april 1923. In 1954 werd het orkest omgevormd tot een harmonie. Dit bleek achteraf een goede keuze te zijn geweest. Hiermee begon namelijk de muzikale bloei van het orkest . Vanaf medio jaren 60 volgde het ene muzikale succes het andere op. In 1964 trad men toe tot de superieure afdeling, de huidige 1ste divisie.

In 1973, bij het gouden jubileum, werd de vereniging begiftigd met de Ere-penning van Verdiensten van H.M. Koningin Juliana. In 1975 behaalde men voor het eerst de felbegeerde Oranjewimpel, een gegeven dat nog tweemaal in successie werd herhaald. Dit opende de mogelijkheid om toe te treden tot de hoogste afdeling van de amateurmuziek. In 1989 trad St. Jozef als eerste van de Kerkraadse orkesten toe tot de concertafdeling. Tijdens het 40-jarig jubileum van het WMC te Kerkrade zette men een schitterend resultaat neer:  343 punten en predicaat B. In 1995, bij de eerste Open Nederlandse Kampioenschappen te Kerkrade, werd dit met 348,5 punt zelfs nog verbeterd.

Na een periode van hard werken en zelfreflectie nam men in 2004 weer deel aan het Bondsconcours te Venlo. Hier behaalde het orkest in de 1ste divisie een fantastische eerste prijs (91,5 punten) Volgens de oude normering: een eerste prijs met lof der jury. In 2009 en 2014 werd in de 1ste divisie wederom een eerste prijs behaald.

De veelzijdigheid van de harmonie wordt al jaren weergegeven middels verschillende projecten en concerten. Denk hierbij bijvoorbeeld aan de verschillende cd-opnames, concoursen, concertreizen, het jaarlijks kerstconcert en andere bijzondere concerten. Het jaarlijkse hoogtepunt is ongetwijfeld ons traditionele Oranjeconcert op Koningsdag.

Ook wordt acte de présence gegeven bij activiteiten in de eigen wijk of in de stad. Echter heeft de harmonie in 2015 besloten om op een andere manier een muzikale bijdrage te leveren aan activiteiten. Hierbij moet men denken aan het opluisteren van de processie en andere vieringen door hout- of koperensembles. Zo worden de straatoptredens tot een minimum gereduceerd en bieden wij leden de kans om ook binnen een kleinere groep muzikanten te musiceren.