Pirmoji Stulgių Šv. Apaštalo evangelisto Mato bažnyčia buvo pastatyta 1798 m. Ją fundavo Vaidatonių dvarininkas, Raseinių pavieto Žemės teismo raštininkas Motiejus Minmantas, o parapijos teises suteikė vyskupas Steponas Giedraitis. 1806 m. bažnyčia dar buvo nekonsekruota, tačiau ją tik pastačius ir įrengus benedikavo Varnių katedros kanauninkas, Kaltanėnų klebonas Antanas Januškevičius. Parapija buvo palyginti nedidelė. Iš rytų į vakarus ir iš pietų į šiaurę ji tęsėsi 7 varstus (ilgio matas lygus 1066,8 metro), apėmė 2 kaimus, 5 bajorų kaimus (akalicas), 1 užusienį ir 3 dvarus. Vyskupo Motiejaus Valančiaus laikais joje gyveno 2629 katalikai. Bažnyčiai vieną valaką ir vieną margą Stulgių kaimo žemės M. Minmantas paskyrė 1798 m. balandžio 20 d., o 1801 m. rugpjūčio 6 d, ši fundacija buvo patvirtinta ir sudarė 10000 lenkiškų zlotų. Minėtas vienas margas žemės buvo skirtas špitolei statyti ir jos daržams. Praėjus šimtui metų, vis labiau griūvant pirmajai bažnyčiai, pradėta rūpintis naujos bažnyčios statyba, o ją bestatant senoji bažnyčia sudegė. Pasirinktas lenkų architekto, architektūros akademiko, Šv. Grigaliaus Didžiojo ordino riterio Juzefo Pijušo Dziekonskio (Dziekoński Józef Pius) (1844–1927) projektas. Pagal šio architekto projektus pastatytos Šilalės Šv. Pranciškaus Asyžiečio, Adakavo Šv. Jono Krikštytojo bažnyčia, restauruota Vilniaus Šv. Onos bažnyčia. Stulgių bažnyčios statyba rūpinosi neeilinių gabumų ir mąstymo kunigas, tuometinis klebonas, kildinęs save iš Kaributų – Vilniaus konferencijos delegatas, populiarių knygelių autorius, periodinės spaudos bendradarbis, Jotvingių kryžiaus riterių ordino įkūrėjas, prelatas Antanas Skinderis Kaributas (1869–1948). Jis kildino save iš kunigaikščio Gedimino giminės, todėl prie savo pavardės pridėdavo dar ir Kaributo pavardę.Šioje parapijoje jis praleido dvidešimt septynerius metus (1893–1919). Šis žmogus buvo ne tik dvasininkas, bet ir sumanus ūkininkas. Bažnyčios statyba pakeitė A. Skinderio-Kaributo likimą. Vyskupijos valdžiai klebono ūkininkavimas labai nepatiko, todėl jį perkėlė į Požerę. O jis ir ten neprapuolė

– įsteigė durpyną. Dabartinė bažnyčia, tokioje nedidelėje ir neturtingoje Stulgių parapijoje pastatyta 1910 m., net už 70 000 rublių, – šio kunigo sumanumo ir ūkiškumo rezultatas. Bažnyčia neogotikinė, raudonų plytų, lotyniško kryžiaus plano, trinavė, vienabokštė, su bokšteliais. Didysis ir du šonuose esantys altoriai pagaminti bažnytinių reikmenų dirbtuvės meistrų. Didysis altorius – skirtas Švč. Dievo Motinos garbei. Vidurinėje jo nišoje – Švč. Mergelės Marijos Nekaltojo Prasidėjimo skulptūra, šoninėse – šventųjų apaštalų Petro ir Pauliaus, virš jų – angelų skulptūros. Išskirtinės bažnyčioje yra ir Kryžiaus kelio stotys – prie kiekvieno paveikslo yra pritvirtinta metalinė lentelė su aukotojo pavarde. Vien iš to galime nustatyti, kas prieš 100 metų šiame krašte gyveno. Prie sienų yra įrengti keturi mediniai altoriai su Šv. Antano Paduviečio, Šv. Barboros, Šv. Onos skulptūromis. Stulgių bažnyčioje galima pasigrožėti žinomo šiauliečio dailininko Gerardo Bagdonavičiaus paveikslu „Pasitikėjimas Dievo Apvaizda“, kabančiu prie šoninio dešiniojo įėjimo. Bažnyčioje yra du itin dideli ir sunkūs kryžiai su nukryžiuoto Jėzaus Kristaus skulptūromis, sukurtomis liaudies meistrų XIX a. pirmojoje pusėje. Manoma, kad pastačius bažnyčią, XX a. pradžioje, iš Kražių bažnyčios buvo perkelti vargonai, nes 1806 m. vizitacijos akte rašoma apie naujus, bet mažesnius, 10 balsų vargonus. Parapijos šventoriaus varpinėje yra du varpai. Didžiojo skersmuo – 1,31 m., mažojo – 65 cm. Ant didžiojo varpo liemens išlieti šv. Antano ir šv. Juozapo atvaizdai bei lietuviškas tekstas: „SZVENTAS IONAI IUZAPAI ANTONAI PRIBUKITE ANT PAGALBOS MUMS KURIE ANT PASZLOVINIMO IUSŲ TĄ VARPĄ // DIDZIO IUBILEIAUS 1901 METUSE ISZTEIKEME. APIERA IONŲ IUZAPŲ ANTONŲ IR KITŲ GERADEIŲ“. Varpas pagamintas S. Englišo dirbtuvėje Varšuvoje, manoma, kad tai vėliausiai šio meistro pagamintas varpas, esantis Lietuvoje. Mažajame varpe išlieta „FESTA DECORO ECCLESIAE STULGENSIS. FABRICAVIT FINLIANDSKI MOSQUAE 1875” ( „Aš papuošiu Stulgių bažnyčios šventes. Finlandskio fabrikas Maskvoje 1875”).