Įkurta XIII a., kai pilies kaimynystėje pradėjo burtis amatininkai ir pirkliai. Bažnyčia greičiausiai pastatyta pilies prieigose apie 1258 m., o vėliau perkelta į rytinę salos dalį. Per 1540 m. gaisrą ji nudegė, bet netrukus atstatyta. Toji nebuvo patvari: 1630 m. minima, kad jos vietoje pastatyti nauji maldos namai ir jiems taip pat suteiktas Jono evangelisto vardas. Nuo to laiko visos paskesnės bažnyčios, skirtos miestiečiams, vadintos Šv. Jono vardu.
1678 m. gaisras vėl sunaikino miestiečių maldos namus. Kur po to laikytos pamaldos, nežinia, nes nauja bažnyčia išmūryta tik 1696-1706 m. jau kitoje vietoje – Turgaus gatvės gale. Ji buvo trinavė, 123 pėdų ilgio, 70 pločio. Bokštas pristatytas vėliau. Pastarajam numatytos bent kelios funkcijos: įmontuotas angliškas laikrodis miestiečiams rodė laiką, mušė valandas, juo, kaip stebėjimo aikštele, naudojosi gaisrininkai (aukštis 195 pėdos), viršūnėje įkeltas burlaivio formos vėjarodis liudijo vėjų kryptį. Tačiau svarbiausia – bokštas buvo iš toliausiai matomas orientyras žvejams ir į Klaipėdos uostą plaukiantiems prekeiviams. Kai 1802 m. įsisiautėjusi audra bokštą apgadino, uosto valdyba nedelsdama skyrė pinigų jo remontui. Bažnyčios interjere dominavo paauksuotas altorius, iš senųjų maldos namų perneštais medžio ornamentais puošta sakykla, keli vertingi paveikslai, tarp jų – klaipėdiečio istoriko, etnografo M. Praetorijaus portretas.
Būtina pastebėti, jog įspūdingus maldos namus miestiečiams pasistatydinti padėjo pats Prūsijos karalius Frydrichas Vilhelmas IV. Mat jis, dar vaikas būdamas, Klaipėdoje, kai ši netikėtai tapo Prūsijos valstybės sostine, išgyveno visus 1807 metus. Bažnyčią 1857 m. pašventinus, padovanojo jai vertingą dailininko A. Bouterwecko paveikslą “Kristus alyvų sodely”. Savo ruožtu statybininkai Magistrato nutarimu jos viduje, prie kolonos, pritvirtino lentelę su įrašu, bylojančiu, kad čia, Klaipėdoje, sunkiuoju laikotarpiu karališkoji šeima prieglobstį surado. Tiek paveikslas, tiek lentelė kabėjo iki pat 1945 m. pradžios.
Bažnyčios vidaus erdvę dalijo kolonos, sakyklą ir altorių puošė skulptoriaus Alberti sukurtos Kristaus ir Mozės statulos. Vargonuota galingais Bucholzo firmos vargonais. Pamaldos čia laikytos tik vokiečių kalba.
Iš parapijoje dirbusių kunigų minėtini Johannas Paulis ir Wilhelmas Wilckė. Pirmasis 1712 m. Frankfurte prie Oderio įgijo teologijos daktaro laipsnį, buvo kviečiamas profesoriauti Karaliaučiaus universitete, bet pasirinko Klaipėdą, čia 1713 m. buvo paskirtas vyriausiuoju kunigu ir dirbo iki 1741 m. Paskelbė mokslinių darbų, išrinktas Berlyno Mokslų Akademijos nariu. Antrasis, W. Wilckė, filosofijos daktaro laipsnį įgijo Vitenberge. Ir jis panoro kunigauti Klaipėdos Šv. Jono bažnyčioje. 1709-1745 m. gyvendamas uostamiestyje, tapo garsiu asmeniu, valdė Dumpių ir Didžiojo Tauralaukio dvarus.
Bendruomenės veikla staigiai nutrūko 1944 m. rudenį. Apie paskutiniąsias pamaldas pasakoja jos kunigas O. Obereigneris:
Neužmirštamas mūsų paskutinysis sekmadienis Klaipėdoje – 1944 m. spalio 8 d. Vyrų mieste nedaug bebuvo likę, moterų – vos viena kita, netrūko tik įvairių kariuomenės rūšių dalinių. Kaimiškųjų parapijų kolegos su savo parapijiečiais jau buvo pasitraukę.<…> Paskutiniosios pamaldos Šv. Jono bažnyčioje buvo numatytos su Šventa Vakariene. Buvau įsitikinęs, kad šiandien arba rytoj prie vartų stovįs priešas kils į paskutinįjį miesto šturmą. Kai viskas buvo jau paruošta išvykimui, tie, kurie dar galėjo varpų kvietimą išgirsti ir tarnyba leido, pajuto šauksmą dalyvauti atsisveikinimo pamaldose. Dar niekad su tokiu meldimu, su tokiu širdingu tikėjimu nebuvo giedota “Didžiausiojoj bėdoj šaukiuosi Tavęs, o Viešpatie, išgirsk mano maldą”, kaip tą kartą.<…>
Kad netaptume priešo lėktuvų antskrydžio taikiniu, išplaukti turėjome tik pradėjus temti. Niekas mūsų nedrįso kalbėtis degančio miesto akivaizdoje. Jono bažnyčia degė kaip fakelas, ir jo šviesa mus dar ilgai lydėjo.
Egzistuoja Šv.Jono bažnyčios atstaymo projektas. Plačiau apie tai žr. http://www.svjono.lt