Prośby mieszkańców zostały wysłuchane i w kwietniu 1884 roku rozpoczęto budowę kościoła, a kamień węgielny uroczyście poświęcono 7 maja 1884 roku. Na tę uroczystość licznie przybyli parafianie i duchowieństwo z bliższych i nieco dalszych okolic. Poświęcenie tego nowego kościoła odbyło się 26 października 1885 roku. Kościół wykonano jako jednonawowy z sufitem drewnianym, o długości 23,5 m, szerokości 14,1 m i wysokości 15 m. W wieży kościoła umieszczono trzy dzwony. Nowy kościół był umiejscowiony między osadami Eintrachthütte a Frydenshütte, nieopodal istniejącego już cmentarza, a więc nie był położony w dzielnicy Zgoda, lecz w obszarze kopalni Otylia. Mógł pomieścić 1300 wiernych. Inicjatorzy budowy przewidywali rozwój urbanistyczny obu miejscowości w kierunku kościoła, co spowodować miało centralne położenie świątyni. Stało się jednak całkowicie inaczej i w efekcie kościół został na uboczu, gdyż rozwój osady nastąpił w drugą stronę, w kierunku Świętochłowic. To też później częściowo zadecydowało o dalszym losie tej budowli.
Pierwszy proboszcz parafii ks. Emil Korus pełnił posługę od 1897 roku do roku 1910. Przeszedł na emeryturę po zrezygnowaniu z probostwa i wyjechał do Wrocławia, gdzie zmarł 25 XI tego roku, a następca ks. Edward Adamczyk objął probostwo na Zgodzie 22 lipca 1910 roku. Jednak po zbudowaniu nowego kościoła w Nowym Bytomiu w 1912 roku, przeniósł się do tej sąsiedniej miejscowości. Powodem mogło być to, że kościół popadał w zapomnienie, wierni wybierali Nowy Bytom lub Świętochłowice. Nic nie zmienił także następny proboszcz ks. Józef Czardybon, który zmarł w 1926 roku. Natomiast kolejny, ks. Jan Pacha był od 1923 najpierw kuratusem mającej się utworzyć nowej zgodzkiej parafii św. Józefa, a od 1 sierpnia 1925 roku został proboszczem. Jednak i on zdecydował się opuścić Zgodę (1929 roku.
Wcześniej, bo w 1925 roku, doszło do podziału parafii Zgoda na dwie samodzielne parafie: w Zgodzie i Nowym Bytomiu, gdzie w 1912 roku powstała nowa świątynia. Tam też chętnie uczęszczali parafianie. Przyczyna tego była prosta. Stary (zgodzki) kościół był zbyt oddalony od osady (3 - 4 km), która rozwinęła się w przeciwnym kierunku, w stronę Świętochłowic. W „starym” kościele dodatkowo zaobserwowano poważne szkody górnicze. Powstała zatem idea budowy nowego kościoła w centrum osiedla.
20 października 1928 roku osadę Zgoda z małymi koloniami Klary, Otylii, Fausta, Hugona i Drzymały wyłączono z gminy Nowy Bytom i od 1 stycznia 1929 roku włączono do gminy Świętochłowice jako jej dzielnicę.
Było wiele sugestii wiernych o nową parafię przychyliło się duchowieństwo z parafii świętochłowickiej i hajduckiej, które oddało niewielkie części swoich parafii. Tym samym można było utworzyć nową na Zgodzie i uzyskać zgodę na budowę nowego kościoła. Dyrekcja Kopalni Niemcy przekazała działkę pod budowę (naprzeciw Kopalni Niemcy), odkupiła dawny kościół na Otylii, plebanię i budynek gospodarczy. Ponieważ był czas kryzysu gospodarczego, wielu ludzi nie posiadało pracy, więc siły roboczej przy budowie nowej świątyni nie brakowało, a pracowano często za przysłowiową miskę zupy. Mówiąc ściślej robotnicy (okresami było ich nawet 300) zgodzili się pracować o 10% poniżej stawki. Ponieważ pracujących było sporo równolegle budowano plebanię.
Budowa szybko posuwała się naprzód i trwała niespełna sześć miesięcy. Autorem projektu i kierownikiem budowy był ówczesny budowniczy diecezjalny architekt Jan Affa, który także zaprojektował plebanię.
12 listopada 1931 roku został kościół konsekrowany, a 28 XI tegoż roku poświęcony. Prasa pisała:
Udział w niej wiernych był tak wielki, że kościół był przepełniony. Między uczestnikami w uroczystości zauważyć było można przedstawicieli władz świeckich, przede wszystkim p. starostę Dr. Szalińskiego z młodą małżonką, naczelnika gminy Świętochłowic p. Polaka także z małżonką, P. burmistrza i posła Grzesika z W. Hajduk. dyrektora Myczyńskiego z Zgody, inspektora górniczego Christa i dyrektora Brandenburga z kopalni Niemiec, członków zarządu kościelnego i wielu innych około 4000 wiernych pomiędzy którymi tworzyli mężowie i młodzieńcy bardzo poważny procent.”
Kościół w Zgodzie, chociaż na pierwszy rzut widać, że jest budowlą nowoczesną, ma w sobie cechy „architektury neostylowej, czytelne przede wszystkim w wąskich, wysokich, grupowanych po dwa lub więcej oknach naw bocznych, transeptu i wieży oraz w ogólnej dyspozycji bryły i przestrzeni wewnętrznej kościoła, a także w zastosowanych tam sklepieniach kolebkowych. (...) Jest to kościół orientowany, założony na rzucie krzyża łacińskiego z wieżą, tworzącą centralny ryzalit w fasadzie. Jest bazyliką, z transeptem i prezbiterium zamkniętym ścianą prostą. Na skrzyżowaniu naw znajduje się niewielka kopuła, na zewnątrz ukryta w niskiej wielobocznej wieży-sygnaturce, powtarzającej swoim kształtem formę najwyższej kondygnacji wieży zachodniej. Elewacje kościoła są, nietypowo jak na Świętochłowice, tynkowane. Ich dekoracją są wyłącznie wąskie, proste opaski okienne i podobne do nich pseudolizeny otaczające szczyt wieży – również są tynkowane, skontrastowane kolorystycznie z płaszczyznami elewacji.
We wnętrzu, równomiernie oświetlonym, kopuła pozbawiona jest własnego światła. Nie stanowi więc dominanty, tworzy z innymi elementami jednorodną przestrzeń, ponieważ nawy boczne są wysokie i jasno oświetlone. Mimo że na zewnątrz bryła prezbiterium i otaczających ją zakrystii wydaje się być bardzo rozbudowana, to we wnętrzu prezbiterium sprawia wrażenie płytkiego i nieznacznie tylko wyodrębnionego z przestrzeni całego kościoła. Nowy kościół na Zgodzie, podobnie jak „stary”, otrzymał za patrona św. Józefa. Parafianie byli zadowoleni, gdyż budowa nowej świątyni poszła szybko i sprawnie, a kościół prezentował się okazale.
Pierwszym proboszczem był tu następca ks. Pachy – ks. Emil Śliwka, który starał się wykorzystać pewne rzeczy z wyposażenia ze starego kościoła zgodzkiego na Otylii, jak np. ławki oraz organy, które wykonała w 1885 roku firma Kurcer z Gliwic). Zostawiono też ołtarz, lecz usunięto z niego elementy gotyckie i nadano formę stylu romańskiego. Przybywało też rzeczy nowych. 23 IV 1933 roku poświęcono figury św. Barbary i św. Katarzyny, które wykonał Bisgwa – artysta z Katowic.
Od 1 II 1957 roku następcą proboszcza Śliwki był Karol Brzoza. W tym okresie, na skutek kościelnej odnowy dokonanej przez Sobór Watykański II, usunął z kościoła drewniany ołtarz i ambonę, w środku prezbiterium umieścił kamienny ołtarz, a ścianę po poprzednim ołtarzu ozdobił mozaiką ukazującą św. Józefa robotnika z Panem Jezusem, zaś w miejscu drewnianej ambony dał w prezbiterium ambonę kamienną. Kronikarze kościelni stwierdzają jednak, że za ks. Brzozy kościół popadł w zaniedbanie.
Za to jego następca ks. Antoni Swadźba, który został tu proboszczem 14 sierpnia 1976 roku wiele sił włożył w odnowienie i remont świątyni, która została w środku wymalowana (i to trzykrotnie za jego kadencji), a od zewnątrz otynkowana. Założył także radiofonizację. 11 VII 1984 roku ks. proboszcz Swadźba rozpoczął budowę (po wielu trudnościach) domu katechetycznego, którą ukończył po trzech latach. Poprzednio katecheza odbywała się w dwóch salkach: jednej pod probostwem i drugiej pod kościołem. Nowy budynek posiada na parterze dwie salki oraz toalety, na piętrze zaś jest jedna duża sala, dwa mniejsze pomieszczenia i sanitariaty. Budynek poświęcił 14 IX 1987 roku ks. biskup Damian Zimoń. Potem była w nim ochronka, punkt hospicjum, a sezonowo udzielane były także konsultacje podatkowe. Proboszcz Swadźba zmarł niespodziewanie 19 kwietnia 1991 roku. Spoczął na zgodzkim cmentarzu.
Następcą proboszcza Swadźby został ks. Czesław Centner. Za jego kadencji nastąpił generalny remont kościoła, okna zyskały witraże, nastąpiła modernizacja ogrzewania i nagłośnienia. W czasie malowanie kościoła w roku 2004 doszło do odkrycia polichromii. Najstarsi mieszkańcy Zgody nie potrafili sobie przypomnieć, iż takowe w tym kościele były. Zdecydowano się na wyeksponowanie tylko kilku z nich. Powstały one na zamówienie ks. proboszcza Śliwki w 1939 roku (ten sam proboszcz w 1910 zdecydował się na polichromie kościele na Otylii). Te na Zgodzie wykonał prof. Pawlikowski z Krakowa, w okresie od 1939 do 1940 roku. Zamalował całość polichromii ks. proboszcz Brzoza w latach 60. ubiegłego wieku. Po odkryciu zrezygnowano z motywów roślinnych, geometrycznych, a zachowano fragmenty dotyczące Biblii.
Po przejściu ks. Centnera na emeryturę proboszczem został ks. Bogusław Jonczyk. Za jego kadencji dokonano już inwentaryzacja cmentarza, wymieniono płot na cmentarzu, unowocześniono system grzewczy. Przy rondzie św. Jana Pawła II na Zgodzie poddano renowacji krzyż postawiony tam w marcu 1991 roku. Drewniana figura Chrystusa, która dotychczas była na krzyżu, nie nadaje się już do ekspozycji na wolnym powietrzu, została odrestaurowana i umieszczona w klatce schodowej wieży kościelnej. Betonowy krzyż został odnowiony i wraz z nową figurą Chrystusa został ponownie poświęcony 12 września 2021 roku., czyli w przededniu obchodów jubileuszu 90-lecia tego zgodzkiego kościoła.
(map)
Fotografie pochodzą ze strony internetowej Parafii pw. Św. Józefa w Świętochłowicach
