Научившись играть на других инструментах, мальчик стал главным деревенским музыкантом. В восемь лет Нильсен начал учиться играть на скрипке, к этому же времени относятся его первые попытки сочинять музыку. Его отец был маляром, но также умел играть на скрипке и часто сопровождал деревенские праздники. Он пережил несчастную любовь, и, возможно, поэтому во многие его произведениях звучит тема любви. Позже, играл в армейском полку, пока он не стал всемирно известным композитором. Карл Аугуст Нильсен, современный датской музыкант, родился в деревне Нёрре Линдельс на острове Фюн