Rauman Museon ensimmäisenä museonjohtajana Jalmari Karhula kartutti museon historiallisia kokoelmia 1930-luvulla. Rauman Taidemuseoon talletettu Jalmari Karhulan taidekokoelma sai alkunsa hänen testamentistaan vuonna 1942. Karhula jätti perinnöksi Rauman museolle kokoelman akvarelleja Vanhasta Raumasta ja varoja Rauma-aiheisten kokoelmien kartuttamiseksi.

Jalmari Karhula syntyi ratsutilallisen Isak Arvon ja Maria Björnin perheeseen Eurassa Sorkkisten Kylä-Björnin tilalla. Isak Arvo oli valtiopäivämies ja kasvatti poikansa arvostamaan satakuntalaista talonpoikaiskulttuuria.

Käytyään maanviljelyskoulun ja kansanopiston Jalmari Arvo kirjoittautui 1903 oppilaaksi Ateneumissa toimivaan Suomen Taideyhdistyksen piirustuskouluun. Koulun johtajaopettajana toimi kansallisesta naturalismistaan tunnettu taidemaalari Albert Gebhard. Taidekoulun opettajana toimi  myös toinen kansallisromantiikan innoittama realisti, taidemaalari Väinö Blomstedt. Piirustuskoulun jälkeen nuori taiteilija matkusti ajan tavan mukaisesti Pariisiin, jossa hän jatkoi taideopintojaan talvikauden 1905-06 Académie Colarossissa. Todennäköisesti Pariisissa syntyi elinikäinen taiteilijatoveruus Vihtori Ylisen kanssa. Yläneläinen taidemaalari oli Pariisissa samoihin aikoihin yhdessä vaimonsa Saima Tigerstedtin kanssa.

Välittömästi taideopintojen jälkeen Jalmari Karhula keskittyi pääasiassa huonekalu- ja rakennussuunnitteluun, kuvitustyöhön sekä käyttögrafiikkaan. Raumalle Jalmari Karhula muutti vuonna 1918. Hän perusti kodin Eevi Viinikkalan, Kiukaisten Eurakosken kylässä sijainneen Viinikkalan tilan tyttären kanssa. Heidän tuolloin asuttamansa talo tuhoutui talvisodassa, mutta rakennettiin uudelleen Karhulan Raumalle saapumisen aikaa ja 1920-lukua voidaan hyvällä syyllä pitää Rauman ja raumalaisen kuvataidekulttuurin alkuna. Paikkakunnan taide-elämä kasvoi pikkukaupungin olosuhteisiin nähden huomattavan vilkkaaksi. Taiteilijat Saima Tigerstedt-Ylinen, Vihtori Ylinen ja Uuno Eskola olivat myös ainakin osaksi Karhulan innostamina, kotiutuneet asumaan ja työskentelemään Raumalla. Vieraiksi saapui useasti tunnettuja taiteilijoita, joista mainittakoon yhtä vuosikurssia ylempänä Karhulaa Suomen Taideakatemiassa opiskelleen Tyko Sallisen oleskelu Sorkassa 1929.

Jalmari Karhulan kuvataiteellinen tuotanto oli myös rikkaimmillaan nimenomaan 20-luvulla, jolloin syntyi suurin osa Rauman Museolle lahjoitetuista , Rauman piha- ja katunäkymiä kuvaavasta akvarellisarjasta sekä runsaasti Lapin ja Petsamon maisemia ja henkilöitä ilmentäviä maalauksia. Karhula järjesti vuonna 1924 Yrjö Karin ja Yrjö Stenbergin (Sallakoski) kanssa yhteisen näyttelyn sekä Raumalle, että Poriin. Vuonna 1926 oli vuorossa näyttely Ylisen kanssa Rauman kauppaopistossa. Ajan tavan mukaisesti kiinnittivät ainakin maaseututoimittajat huomionsa enemmän maalausten aiheisiin kuin niiden välittämään sanomaan.

1930-luvun alkupuolella syntyivät monet Suomen sukulaiskansojen näkymiä ja elämää kuvaavat aiheet, joiden joukossa on myös tekijälle harvinaisempia öljymaalauksia. Niihin kuuluu "Eestiläinen katunäkymä" -jälki-impressionistista värivalotusta osittain Cézannen tapaisesti - ja "Rva Hallisten muotokuva", jossa maalari on loihtinut kankaalle eestiläisen taiteilijatoverinsa puolison karakterisesti viehättävän olemuksen.

1930-luvulla Rauman museolle etsittiin johtajaa. Jalmari Karhula tarjoutui tehtävään, josta hän ei odottanutkaan palkkaa: hänelle riitti työkenttä, missä oli mahdollisuus paneutua koko sydämestään kotiseudun kiehtovaan menneisyyteen. Karhula teki lukemattomia onnistuneita retkiä lähimaaseudulle etsien esineistöä museoonsa. Aikakausi merkitsi myös eri taiteenaloilla kansallisten muotojen, todellisten tai oletettujen korostusta. Hän edusti vuosisadan vaihteen ihannetta kokonaistaiteilijasta, joka antaa muodon kokonaiselle miljöölle kaikkine yksityiskohtineen. Esimerkiksi Euraan rakennettu Euran Pirtti, joka suunniteltiin 1900-luvun alussa on Karhulan työtä alusta loppuun.

Kotiseutumiehenä Jalmari Karhula kuului Rauman Killan perustajajäseniin. Hänen käsialaansa on myös Rauman Killan merkki, kuten lukuisat muut seuramerkit. Aikalaiset, kuten kasvattitytär Salme Seppälä, kertovat Jalmari Karhulan olleen aina uppoutunut johonkin suunnittelutyöhön. Milloin Karhula ei suunnitellut, koti tulvi vieraita: nuorisoseuraväkeä, Lallin ystäviä, kiltalaisia, taiteilijoita kautta Suomen sekä sukulaiskansan edustajia, eestiläisiä. Karhulan tapana oli myös pukeutua itse suunnittelemiinsa, kotikutoisista kankaista tehtyihin vaatteisiin. Kankaatkin varustettiin hänen hakaristipuumerkillään, jota hän käytti mm. myös Euran Pirtin koristelussa. Vanhat tanssit, tanhut ja pelimannimusiikki olivat Karhulalle rakkaita.

Piirrokset syntyivät yhdistysten tilauksesta tai sukulaisten tarpeisiin kiinnostuksesta rakennustaiteeseen. Piirrosten tekemiseen hän oli saanut oppia mm. Ilmajoen kansanopistossa, jossa hän opiskeli 1895-96. Koulun oppiaineena oli piirustus ja vuosikertomuksen mukaan opetusta annettiin myös rakennuspiirustusten laatimisessa. Säilyneet kartongit opistoajalta, joita esiteltiin mm. Karhulan 100-vuotisjuhlanäyttelyssä, kertovat minkälaisia harjoituksia opistossa tehtiin.

Karhula suunnitteli mm. huvilamaisen maakartanon Kirran Huittisiin, Euraan Sillanpään ja Ruohomaan tilojen päärakennukset, Karhulan asuinrakennuksen sekä Karhulan renkituvan (rakennuspiirustus 1904).

Raumalle toteutui Karhulan huvila Petäjäkseen 1914, Wiinamäen talo Klauppakadulle, Peltolan konditorian muutospiirros tehtiin 1914. Uudenkartanon osuuskauppa Yläneellä, rakennuspiirustus 1910 (toteutettu 1912). Karhulan käsialaa olivat myös vuosittaiset Satakunnan Laulujuhlien laulujuhlalavat eripuolilla Satakuntaa. Kaiken kaikkiaan Jalmari Karhula suunnitteli parikymmentä rakennusta. Hän ei ammatiltaan ollut arkkitehti tai rakennusmestari ja hänen toimintansa arkkitehtuurin alueella oli pikemminkin innokasta harrastusta. Karhulan rakennussuunnitelmat rajoittuvat 1900-luvun kahdelle ensimmäiselle vuosikymmenelle. Poikkeuksen tekee hänen itselleen suunnittelema asuintalo Raumalla, jonka piirustukset valmistuivat 1940.