Non, ce n'est pas du tout "propre" : ce sont des techniques qui marchent à très court terme, et qui risquent de te faire blacklister le domaine.
Si ce prestataire possède tes codes d'accès FTP, etc, modifie-les au plus vite ! Et supprime tous les textes cachés !
Quant à leur url, vérifie le contrat que tu as passé avec eux pour savoir si tu peux l'enlever (ou au bout de combien de temps).