В восемь лет Нильсен начал учиться играть на скрипке, к этому же времени относятся его первые попытки сочинять музыку. Его отец был маляром, но также умел играть на скрипке и часто сопровождал деревенские праздники. Позже, играл в армейском полку, пока он не стал всемирно известным композитором. Он пережил несчастную любовь, и, возможно, поэтому во многие его произведениях звучит тема любви. Научившись играть на других инструментах, мальчик стал главным деревенским музыкантом. Карл Аугуст Нильсен, современный датской музыкант, родился в деревне Нёрре Линдельс на острове Фюн