De 65-jarige zanger brak in 1960 door met zijn eerste hit 'Kom van dat dak af'. Het nummer haalde in 1971, 1981 en 1989 opnieuw in verschillende versies de hitparades. Verder scoorde de zanger in zijn ruim 45-jarige carrière onder meer hits met 'Angeline (M'n blonde sexmachine)', 'Je wordt ouder papa' en 'Klap maar in je handen'.
Koelewijn legde zich naast zijn zangcarrière toe op het produceren van platen van andere artiesten. Zo produceerde hij in de jaren '60 de muziek van onder anderen Conny Vandenbos ('Ik ben gelukkig zonder jou'), Ronnie en de Ronnies ('Beestjes') en Bonnie St Claire ('Clap your hands en stamp your feet').
In het begin van de jaren '90 scoorde Koelewijn als producent een nummer één-hit met het nummer 'Als Dick me hullep nodig heb' van Johan & de Groothandel. Onder de naam Gompie had hij in 1995 een nummer één met 'Alice, who the fuck is Alice'. Op het producentenvlak is Koelewijn tot op heden succesvol met onder anderen Grant & Forsyth, Lee Towers en de Belgische zanger Helmut Lotti.
