První z budov Grandhotelu Pupp, zvaná "Saský sál", byla postavena na objednávku tehdejšího starosty města Deimla již v roce 1701. Sálem byly položeny základy k řadě pozdějších hotelových staveb.
V době stoupající slávy Saského sálu vládl na karlovarské radnici další starosta Andreas Becher. Také vlastnil pozemky v nivě za ohybem říčky a rozhodl se vystavět svůj "Lusthaus" v pravém úhlu k Saskému sálu, zhruba v místech dnešního Zrcadlového sálu a restaurace Grandrestaurant Pupp. Hned od začátku se mu začíná říkat Český sál.
V roce 1760 přichází do Karlových Varů Jan Jiří Pop, rodák z Veltrus, který do té doby působil jako cukrář hraběte Rudolfa Chotka, a nastupuje na místo u zdejšího cukráře Mitterbacha. Roku 1775 se ožení s Mitterbachovou dcerou Františkou, která kupuje od vdovy po starostovi Becherovi třetinu Českého sálu. Následujícího roku kupuje Františka druhou třetinu a poslední dokupuje roku 1776 její manžel, který se mezitím začal podepisovat jako Johann Georg Pupp. V témže roce rozbíhá svůj podnik.
Během 19. století se firma úspěšně rozvíjela a v roce 1890 rodina Puppů, reprezentovaná bratry Antonem, Juliem a Heinrichem, získala do vlastnictví i původní Saský sál. Téhož roku je založena rodinná akciová společnost. Šest let poté předává firma vídeňským architektům Fellnerovi a Helmerovi takzvaný "Etablissement Pupp", aby byl tento soubor jednotlivých budov v roce 1907 s konečnou platností scelen v novobarokně pojatý "Grandhotel Pupp".
V letech 1922-1923 vrcholí přestavba a také modernizace celého hotelu. Každý pokoj má vlastní koupelnu s teplou a studenou vodou, a za největší úspěch byl pokládán fakt, že před začátkem II. světové války se Puppům konečně podařilo koupit poslední ze žádaných budov "Dům Boží oko", dnes Café Pupp.
V roce 1951 je jméno hotelu změněno na Grandhotel Moskva a ke svému původnímu jménu a tradici se navrací teprve po roce 1989.
