Puk je osnovana 1894. godine u Mostaru. U početku je imala četiri bataljona, od kojih je 1, 2. i 4. bataljon bio stacioniran u gradu Trstu, dok je 3. bataljon ostajao u glavnom gradu svog okruga.
Od početka Prvog svjetskog rata pa do marta 1916. godine puk se nalazio u sastavu 2. pješadijske divizije austrougarske vojske. U tom periodu puk je bio direktno uključen u borbama ili se nalazio u rezervnom sastavu. Sudjelovao je u borbama u istočnoj Poljskoj (Krašnik, Lublin, San), a pred kraj novembra 1914. godine u borbama kod Krakova. Od 20. do 25. decembra učestvovao je u operaciji prijelaza preko pasa Dukla.
Nakon toga izvršeno je povlačenje prema Karpatima, a već prvih dana 1915. godine puk sudjeluje u borbama kod Jasiela, na granici između današnje Poljske i Slovačke. Krajem februara učestvuje i u tzv. uskršnjim borbama prilikom druge ofanzive na Karpate. Od početka maja do novembra 1915. godine aktivno sudjeluje u borbama zauzimanja Gorlice, Sanoka i Lublina, i u borbama za Przemysla, Krašnik i čartoriskog, te u ofanzivama prema Lembergu, u Volhiniji i na Rovno.
U aprilu 1916. godine, puk je premješten na jugozapadno ratište, gdje je raspoređen u sastav 93. pješadijske divizije. Komanda i sanitet jedinice su bili stacionirani u okolini Bovca i u Logu pod Mongartom. Jedinica učestvuje u borbama za planinske visove Sočkog fronta (Rombon, Krn, Batognica, Peski). Obzirom da su vođene uglavnom pozicione borbe, bez nekih velikih pomijeranja i austrougarske i italijanske snage, vojnici i oficiri 4. bosanskohercegovačkog puka su pokazali veliku borbenost i požrtvovanost, naročito u bliskim borbama gdje ih austrougarska komanda opisuje kao najhrabriji segment austrougarske vojske na tom dijelu ratišta.
Nerijetko su u borbama prsa u prsa koristili i buzdovane, što je često tjeralo italijanske vojnike da izbjegavaju bliske borbe za bošnjačkim vojnicima. Od oktobra 1917. godine dolazi do reorganizacije austrougarske vojske. Od 3. i 5. bataljona i 8. bosanskohercegovačkog pješadijskog lovačkog bataljona, ustrojena je i 8. bosanskohercegovačka pješadijska pukovnija. Preostali dijelovi 4. puka ušli su u sastav 55. pješadijske divizije i u njezinom sastavu, do kraja rata, učestvuju u borbama na rijeci Soči (12. bitka), u prodoru na rijeku Tagliamento kod Cornina, u prelasku preko Tagliamente, u borbama na visoravni Grappa.
Od 24. juna do 15. jula 1918. godine puk je vodio borbe nakon italijanskog kontranapada u brdskim prilikama, gdje su 19. septembra vođene borbe na Solarolu, a od 24. do 28. oktobra i odbrambene borbe u oblasti Grappa. Tokom Prvog svjetskog rata 4. bosanskohercegovački puk odlikovan je sa 15 zlatnih medalja, u znak priznanja za iskazanu hrabrost.
