y'a VPS et VPS. Le terme est devenu imprécis de nos jours.
A l'origine cela désignait principalement des instances niveau "containers" (ou jails). C'est le cas d'OpenVZ, Virtuozzo et LXC (Docker).
Depuis les gros hébergeurs proposent aussi des solutions a base de vrai virtualisation hardware (HVM) en utilisant des hyperviseurs (VMWare et ses concurrents directs). Ils appellent ca aussi VPS (Virtual Private Server) des fois.
Illustration de la différence:
Apres comme dit Nico difficile de répondre, suivant la techno et les logiciels de virtualisation utilisés les réglages propres a chaque 'instance' sont différents. Le plus souvent on peut tout régler, les IP, la RAM, le CPU, les quotas E/S, etc. C'est aussi souvent une question de prix: plus on "garanti" ou fourni quelque chose (mémoire,cpu,disque, débit réseau,@ IP) plus c'est cher. En général du vrai HVM ca coute toujours plus cher que du containers. Il y a aussi des "solutions intermédiaires" entre les 2 modes.
Si c'est juste pour des sites web, on 'virtualise' (mutualise) plus haut en général au niveau serveur web directement (hebergement web).
Si c'est juste pour faire tourner une application unique, il y a des solutions d’hébergement a base de containers (Docker). Les hébergeurs français (OVH,Online,etc) sont un peu a la traîne de ce coté mais ils progressent rapidement.
La tendance en tout cas est a moins de "hardware et OS et plus d'applications": on va de moins en moins s’embêter a installer et configurer des machines (virtuelles) et des OS sur celles-ci mais plutôt déployer directement des applications tout prêtes dans des containers qui contiennent les morceaux d'OS nécessaires a leur fonctionnement (le nombre de vraies machines virtuelles qui ne font tourner qu'une seule application est énorme et c'est un énorme gâchis de ressources).
Donc plutot que de raisonner de bas en haut (hardware vers OS vers application) il faudrait raisonner de haut en bas (application vers OS vers hardware). On arrive souvent a une solution bien moins chère.