Nacido en Blackheath, Londres, Holland fue uno de los miembros fundadores de la banda Squeeze, formada en marzo de 1974. Holland fue teclista del grupo hasta después de que la banda produjera su tercer álbum, en 1980, cuando Holland se separó para forjar una carrera como solista.

Holland empezó a producir grabaciones en solitario en 1978, siendo su primer EP Boogie Woogie '78. Continuó su carrera como solista durante los primeros años de los '80, llegando a lanzar un álbum y varios sencillos entre 1981 y 1984.

Comenzó su carrera en televisión siendo co-animador del programa musical de [Newcastle]] "The Tube", con Paula Yates. Holland logró notoriedad inadvertidamente usando la frase "groovy fuckers" en una propaganda televisiva en vivo para dicho programa, razón por la cual fue suspendido por tres semanas. Más tarde se refirió a esta situación en su sitcom "The Groovy Fellers", con Rowland Rivron.