Het beeld werd gemaakt door Edvard Eriksen in opdracht van Carl Jakobsen. De Kleine Zeemeermin is een sprookje van Hans Christian Andersen. De zeemeermin redt het leven van een prins die schipbreuk heeft geleden. Om met hem te kunnen trouwen moet ze haar mooie stem en haar vissenstaart opgeven. In 1909 zag Jakobsen een uitvoering van dit verhaal door het Koninklijk Deens Ballet. Hij was daardoor zo gefascineerd dat hij besloot een beeldje van de zeemeermin te schenken aan de stad Kopenhagen. Het werd in 1913 onthuld en werd al snel het symbool van de stad.

Eriksen gebruikte een deel van zijn vrouw als model voor dit beeldje. De beeldhouwer maakte het hoofd naar de danseres Ellen Price. Het hoofd is overigens niet het origineel, tot twee keer toe werd De Kleine Zeemeermin onthoofd. Het beeld was in de jaren zestig geregeld het doelwit van protestacties. Zo werd ze meerdere keren beklad en feministes trokken haar een beha aan. Die tijden zijn voorbij al willen vandalen nog weleens graffiti op haar aanbrengen.