Fudbalska lopta donesena je u Bosnu i Hercegovinu 1903. ali se fudbal u Sarajevu poceo igrati 1908. godine. Naime, te godine grupa djaka sarajevske Gimnazije boravila je u Zagrebu, gdje se upoznala sa pravilima fudbalske igre i zavoljela fudbal. Posmatrali su treninge zagrebackih djaka, pa su i sami zaigrali. U Sarajevo su se vratili sa loptom i odmah poceli vjezbe iz fudbalske vjestine na casovima gimnastike na igralistu Realne gimnazije. Iste godine ucenici su osnovali svoj Srednjoskolski sportski klub, ciji su osnivaci bili Emil Najsul, Feodor Lukac, Stevo Jokanovic, Zdravko Jeftanovic, … Srednjoskolski klub kasnije je dobio ime “Osman”. To je bio prvi organizovani fudbalski klub u gradu na Miljacki.
Prije prvog svjetskog rata bilo je pet klubova u Sarajevu: Srpski SK (kasnije Slavija), Hrvatski SK (kasnije SASK), Muslimanski SK (kasnije Sarajevski), Zidovski SK (kasnije Barkohba) i Radnicko sportsko drustvo Hajduk. “Osman” je ubrzo po osnivanju reformisan. Poslije zavrsetka prvog svjetskog rata, uz obnavljanje pomenutih, osnivaju se i novi klubovi: Troja, Sparta i Gradjanski. Fudbal je u zacetku u Jugoslaviji, pa i u Sarajevu, bio privilegija intelektualaca, ali ga je ubrzo pocela igrati i radnicka omladina. Sredinom druge i pocetkom trece decenije 20. vijeka postao je najjeftinija i najdraza zabava mladih radnika. Mladi radnici Zeljeznicke radionice osnovali su 1912. godine prvi radnicki klub u Sarajevu – Hajduk, koje je godinama bio mjesto okupljanja radnika i svojevrstan nacin borbe protiv nacionalistickih stremljenja ispoljenih prilikom stvaranja i djelovanja Srpskog, Hrvatskog, Muslimanskog i Zidovskog kluba.
Pred kraj 1920. i u prvoj polovini 921. godine u Sarajevo je stiglo dosta iseljenika iz Rijeke. Medju njima je bilo i nekoliko vrsnih fudbalera koji su se prikljucili Hajduku.
Neki mladi radnici Zeljeznicke radionice jos otprije su trenirali u Hajduku, ali nisu bili registrovani. Dolaskom Rijecana, za njih je konkurencija bila jaca. Javila se ubrzo ideja, u jesen 1920. godine, o osnivanju jos jednog radnickog kluba. Prvi je na tu pomisao dosao Dimitrije Dimitrijevic, zeljeznicki radnik, najmladji i najbrzi medju svojim drugovima, inace vrlo spretan u baratanju loptom. Jedne veceri 1920. godine pod lipom ispred Zeljeznicke radionice, saopstio je svoju pomisao Ludvigu Lepleu, strojovodji. Ovome se ideja dopala, vidio je u njoj sansu da svi zeljeznicki radnici koji treniraju igraju i utakmice. Razgovarali su zatim i sa Stjepanom Katalinicem, te sa jos nekoliko mladica. Svi su bili odusevljeni idejom, pa su brzo stupili u akciju. Ideju su prihvatili gotovo svi u Zeljeznickoj radionici i odmah dali prilog u novcu da se kupi lopta.
Lopta je nabavljena, ali je brzo stigla zima, pa je mladicima ostalo da s nestrpljenjem cekaju proljece. Do tada su vodili beskrajne razgovore o fudbalu, osobito o atraktivnom gostovanju Gracen atletik kluba (Grac-Austrja) u Sarajevu i njegovim ubjedljivim pobjedama nad Srpskim SK i Hrvatskim SK. Na tim utakmicama se vidjelo koliko mnogo sarajevski igraci zaostaju za evropskim vrijednostima.
U proljece 1921. godine, dakle, uz prve fudbalske korake mladica iz Zeljeznicke radionice, pojavio se i prvi problem – igraliste. Postojala su dva fudbalska igralista u Sarajevu, SASK-ovo u Kovacicima i Skenderija, na kojoj su igrali Hajduk, Slavija i Sarajevski. Vlasnici oba igralista svakom drugom klubu uzimali su pozmasnu svotu novca za treniranje i igranje utakmica.
Mladi zeljeznicki radnici nisu imali novca za to pa su odlucili da treniraju na vojnom vjezbalistu (danasnja Cengic Vila I) zvanom Egzercir. Prvih suncanih dana 1921. godine poceli su treninzi bez trenera, ali sa velikom zeljom da se nauci sto vise prije nego sto pocnu igrati utakmice. Svaki fudbaler bio je duzan da na trening donese opremu: gacice, majicu (ili stari dzemper), a na noge ko sta ima. Ponajcesce su igrali bosi. Kupiti kopacke mogli su smao bogati, a takvih nije bilo u redovima buduceg radnickog kluba.
Poslije nekoliko mjeseci treniranja na Egzerciru igrane su utakmice sa slicnim ‘nejavnim' klubovima. To je bio ustaljeni naziv za one koji nisu bili clanovi Podsaveza. Igracki kadar vec prvih dana rada bio je obogacen. Iz Hajduka su dosli golman Stefan Cicvol, zatim Milovan Adamovic, Milutin Egic, Ivan Dunkl…, igraci koji su u Hajduku bili stalni prvotimci.
Kad su mladici iz Zeljeznicke radionice igracki ojacali, u njima se probudila zelja da zaigraju sa najboljim sarajevskim klubovima. I konacko, sredinom jula 1921. godine podnesena je molba da se Zeljeznicar primi za punopravnog clana Podsaveza. Ali tih dana je izvrsen atentat na tvorca Obznane Milorada Draskovica i akcija za formiranje radnickog kluba bila je povod da policija provjeri sve clanove buduceg kluba. Fudbalski podsavez izdao je potom, 30 jula, saopstenje:
“Zeljeznicarski sportski klub Sarajevo moze se primiti za clana Podsaveza tek nakon odigravanja dvije utakmice. Prije toga ima nam predociti svoja klupska pravila odobrena po Zemlajskoj vladi. Upisnina kosta K 50. Clanarina K 50.” (K 50 znaci 50 kruna).
Prvi put se u stampi, dakle, pominje ime Kluba- Zeljeznicki sportski klub Sarajevo. To ime dali su radnici Zeljeznicke radionice, clanovi Kluba na jednom sastanku.
Iako su klupska pravila brzo napravljena i ovjerena ‘po Zemaljskoj vladi', uplacena clanarina i sve uredno dostavljeno Podsavezu, trebalo je cekati mjesec i po da Podsavez odobri da se odigraju dvije uslovne utakmice i da konacno postanu clanovi Podsaveza.
Vjerovatno nista ne bi bilo od igranja u sezoni 1921/22. godine da Zeljeznicar nije bio uporan i da u vrlo kratkom roku nije uputio nekoliko protesta Podsavezu. Svima je bilo jasno da se odugovlaci odredjivanje termina za odigravanje utakmica jer vlastima nije bilo u interesu da se osnuje i drugi radnicki klub. Cak su na sastanku Podsaveza od 8. septembra 1921. godine klubovi podjeljeni u Prvi i Drugi razred, izvrseno je zrijebanje i odredjeni termini odigravanja utakmica. U Prvi razred rasporedjeni su : SK Slavija, SASK, Sarajevski SK i RSK Hajduk, a u Drugi razred: SK Sparta, SK Troja, SK Barkohba i SK Gradjanski.
Najzad, 15. septembra 1921. godine, u ‘Vecernjoj posti', zvanicnom glasilu Podsaveza na molbu Zeljeznicara pise:
“Sarajevski zeljeznicarski sportski klub prima se kao privremeni clan Podsaveza. Ako odigra dvije utakmice bez incidenata, bice primljen za definitivnog clana, a u prvenstvene utakmice bice ukljucen naknadno.”
Da bi se ispunila ova minimalna mogucnost, Zeljeznicar je ugovorio dvije utakmice, sa SASK-om 17. septembra i sa Sarajevskim SK sutradan 18. septembra 1921. godine.
Prva utakmica
Najava za prvu utakmicu sa SASK-om objavljena je u ‘Vecernjoj posti' 16. septembra i u njoj se kaze:
SASK KONTRA ZELJEZNICARA
“U subotu 17. o. mj. U 4 sata poslije podne odigrace SASK prvu javnu utakmicu nakon svog povratka sa turneje. Interes za ovu utakmicu je osobit posto cemo imati priliku da vidimo novih trikova koje je SASK na svojoj turneji pripremio. Igra ce prema tome biti vrlo zanimljiva, igra se na Kovacicima. Cijena uobicajena.”
A vec odavno u Zeljeznicaru za ovaj mec sve je bilo spremno. Mladici su cekali kao zapete puske. Za igranje zvanicnih utakmica kupljena je kompletna prava sportska oprema. Znatan dio nabavljen je od clanarine, a novac je dalo i Udruzenje masinovodja i strojovodja koje je postalo jedan od pokrovitelja Kluba. Posto u Sarajevu nije bilo prodavnice u kojoj se prodavala sportska oprema, neki clanovi su otputovali u Zagreb i oprema je kupljena kod firme ‘Pavao Kandec'. Dok je Podsavez odugovlacio registraciju Zeljeznicara, sestre i djevojke dotjerivale su opremu. Na majicama su izvezle lokomotivu koja je bila i prvi grb Zeljeznicara.
I dosao je taj dan. Subota 17. septembra 1921. godine. Nekoliko sati prije utakmice svi igraci su se okupili na stadionu. Doslo je i oko 500 navijaca, mahom zeljeznicara i stanovnika Novog Sarajeva i Pofalica. Odluceno je da ekipa nastupi u sastavu : Cicvol, Tomic, Novak, Kefer, Adamovic, Katalinic, Leple, Siber, Dimitrijevic, Krajnc i Cvelfer. U drugom poluvremenu Dunkl je zamjenio Tomica, a Egic Novaka. Utakmica je bila neravnopravna. SASK je bio znatno kvalitetnija ekipa i pobjedio je sa 5:1. Jedini gol za Zeljeznicar postigao je centarfor Dimitrije Dimitrijevic. Razocarani porazom, to vece fudbaleri su se okupili u klupskim prostorijama (sobici koju im je ustupilo udruzenje masinovodja i strojovodja) i dogovorili se: Protiv Sarajevskog SK moramo igrati znatno bolje! I vec sutradan igrali su dosta dobro. Porazeni su sa 2:1, ali su pruzili snazan otpor.
Vec od ponedeljka 19. septembra, Zeljeznicar je postao punopravni clan Podsaveza i uvrsten je u Drugi razred zajedno sa SK Spartom, SK Trojom, i SK Barkohbom. Gradjanski SK je odustao od takmicenja jer nije imao novca da placa stadion.
Popularnost Zeljeznicara od tada raste svakim danom. Vec u prvoj takmicarskoj sezoni Zeljeznicar je imao tridesetak registrovanih fudbalera. S obzirom na to da se za registraciju svakog fudbalera trebalo placati, oni mladji su trenirali, a nisu prijavljeni Podsavezu. Na treninzima u Egzerciru bilo je i po 40 fudbalera.
Dolaskom Amara Osima 2000. godine furiozno je osvojena do tada najveća BiH liga, od čak 22 kluba, s postignutih 113 golova i osvojenim 91 bodom. Listu strijelaca predvodili su Muharemović s 31 i Muratović s 23 postignuta gola. Nakon prvenstva osvojen je Kup, a za trostruki učinak odnosno osvajanje svih zvaničnih takmičenja pobrinula se ekipa osvojivši već u martu Superkup protiv aktuelnog prvaka Brotnja (0:0 i 3:1). Dominacija je nastavljena i naredne sezone, s tim da je put do titule naizgled bio još lakši. Osvajanjem prvenstva Željezničar je obezbjedio nastup u Europi. Odigrano je nekoliko nezaboravnih mečeva. U Ligi prvaka krenulo se od prvog pretkola a tek u prvom kvalifikacijskom kolu zaustavljen je plavi tim od engleskog Newcastle FC. Nastavak takmičenja je bio u Kupu UEFA gdje je presudio olako dosuđeni jedanaestera u gostima protiv FC Malage (0:0 i 1:0). U sezoni 2002/2003 Željezničar je u posljednjem kolu protiv N.K. Širokog brijega u gostima prekinuo niz od 20 ligaških utakmica bez poraza te je propustio priliku da pobjedom osvoji naslov. Ipak je nastavio s dobrim igrama u Kupu UEFA gdje je ispao od škotskog Heartsa porazom u Edinburghu od 2:0. Ipak odlaskom Amara Osima na klupu japanskog JEF Uniteda kroz svlačionicu plavih je u 6 sezone prodefilovalo čak 11 trenera. Konsolidacijom Uprave, za menagera je ponovo imenovan Amar Osim koji već u „povratničkoj“ sezoni 2009/10 donosi titulu prvaka i to nakon 7 bodova zaostatka na polusezoni , sa 6 bodova viška na kraju.
