O výstavbe svojho reprezentačného sídla a rokovacej sály boľševici začali uvažovať hneď po víťazstve v ruskej občianskej vojne. Táto myšlienka sa objavila už v roku 1922, ešte za Leninovho života.
No v dobe chaosu a hlbokého politického i hospodárskeho marazmu, v ktorom sa Sovietsky zväz nachádzal v priebehu 20. rokov 20. storočia, sa na túto stavbu nenašli prostriedky.
Téma výstavby Paláca sovietov sa opätovne otvorila na začiatku 30. rokov, keď Stalin chystal veľkú prestavbu Moskvy.
Tento palác mal byť jedným z jej symbolov, prvým sovietskym mrakodrapom. Tomu musela zodpovedať i jeho poloha.
Hlavný palác strany sa musel rozprestierať v centre hlavného mesta. Uvažovalo sa o viacerých lokalitách, nakoniec „vyhrala“ Volchonka blízko moskovského Kremľa. Vedeniu strany neprekážalo, že práve na tom mieste stál Chrám Krista Spasiteľa (vysvätený v roku 1883), v decembri 1931 ho preto zbúrali.

Svetová súťaž
Otvorená súťaž na projekt Paláca sovietov bola vyhlásená v roku 1931, jej podmienky boli uverejnené v časopise Izvestja.
Išlo pritom o najväčšiu architektonickú súťaž v dejinách Sovietskeho zväzu. Celkovo sa do nej prihlásilo 160 projektov, z toho 24 zo zahraničia (11 z nich z USA).