Malgré son apparence modeste, l'ancienne église de Vaxholm, construite au milieu du XVIIIe siècle à l'emplacement d'une ancienne église en bois, est un monument unique de l'architecture sacrée suédoise. De l'ancien sanctuaire, seule une pierre a été héritée, sur laquelle la date de construction de l'ancienne église en 1644 est indiquée. Aujourd'hui, elle est installée à l'extérieur de l'église pour rappeler qu'une ancienne maison de prière s'y trouvait autrefois.
La construction du nouveau sanctuaire a commencé en 1760 sous la direction de l'architecte local Carl Fredrik Adelcrantz. Le maître suédois, qui possédait de nombreux bâtiments construits au XVIIIe siècle en Suède, avait son propre style architectural. Dans ce style, l'église de Vaxholm, sanctuaire principal de la ville et attraction touristique populaire, a été construite. Le clocher en bois mérite une attention particulière. Construit comme un clocher temporaire à cause du manque de fonds, il domine encore aujourd'hui l'église de Vaxholm.
La cérémonie de consécration n'a pas eu lieu immédiatement. Il a fallu près de 5 décennies avant que l'église ne soit consacrée en l'honneur du roi de Suède Gustave IV Adolphe, grâce à quoi elle a reçu le nom d'Église de Gustave. Dans le même temps, des bancs en bois massifs ont été installés, que l'on peut encore voir aujourd'hui, mais la véritable fierté du sanctuaire est l'orgue du XIXe siècle, qui a été installé en 1909. Ses sons étonnants peuvent encore être entendus lors des services religieux des jours fériés.
De plus, l'ancienne église de Vaxholm est ornée d'une magnifique copie du tableau de Peter Paul Rubens « Descente de croix », dont l'original se trouve dans la cathédrale catholique Notre-Dame de la ville belge d'Anvers. Le tableau a été offert à l'église de Vaxholm en cadeau par le baron von Post en 1816. À la même époque, le sanctuaire a été décoré d'un autre tableau d'un auteur inconnu représentant Jésus-Christ portant une couronne d'épines. Actuellement, on peut le voir au-dessus de l'autel.