Byvåben før 1922
Byvåben efter 1922

Byens gamle segl viser en borg på bølger. Det findes på dokumenter fra første halvdel af 17. århundrede. Hvornår byen har fået dette mærke, vides ikke. Det er en sølv borg i blåt skjoldfelt på sølvbølger.

Borgens underbygning har tre åbne buer eller porte, af hvilke den midterste er noget højere. Overbygningen består af et rundt tårn med buttet spir med skydeskår under taggesimsen, et vindue og en lukket port. Tårnet er flankeret af små sidebygninger , der hver, nær den yderste ende har en åben dør eller et vindue og en tagrytter med slankts spir.

Våbenbilledet symboliserer Sønderborg Slot. De tre buer i underbygningen er slottets tre porte i tidligere tid: Hovedporten, strandporten  (ud mod Sønderbro) og vandporten mod havet.

Dette byvåben førte byen indtil 1922.

I dette år vedtog byrådet at antage et byvåben i anden form og andre farver, efter udkast af våbentegneren Fr. Britze i København.

Dette nye våben, der viser en rød borg i sølvfelt på blå bølger, blev godkendt af byrådet den 29. september 1921. Den 12. januar indsendte byen våbenet til indenrigsministeriets godkendelse og den 25. august samme år blev det approberet af Kongen.