1948年3月23日，中央离开西柏坡，前往北平。这天早上出发时，对周恩来说：“今天是进京的日子，不睡觉也很高兴啊！今天是进京‘赶考’嘛，进京‘赶考’去，精神不好怎么行呀？”
在此前的党的七届二中全会上，党中央已经正式决定，将新中国的首都定为北平。但很多人不知道的是，北平一开始并不是中央的首选。
中央最早选定的首都是有着“东方的莫斯科”之称的哈尔滨。1945年8月，苏联红军和东北抗日联军解放哈尔滨后，它便成为了全国解放最早的大城市，而且它一直是东北的政治、经济和文化中心，中央东北局、东北行政委员会的所在地也都设在这里。
也非常欣赏哈尔滨，在他看来，中国地图如同一只雄鸡，而黑龙江犹如一只展翅翱翔的天鹅，哈尔滨就是这“天鹅项下的珍珠”。而且哈尔滨离苏联非常近，更加容易获得苏联的援助，因此中央将哈尔滨定为“特别市”，准备在这里建立新中国。
但哈尔滨毕竟离延安太远，中间需要有一个中转地，于是党中央选定承德作为临时所在地。抗战胜利后，中央副秘书长李富春找中央警备团团长吴烈谈话说：“中央准备到东北去，到那里指挥全国的解放战争很有利。要离开延安到东北去，原来的中央警备团一分为二，你带中央先行警备团到承德打前站，为中央到那儿去准备宿舍，准备住地。”
1945年10月2日，吴烈带领警备团的部分人员出发了，在路上走了一个月才到承德。但此时全国的形势发生了重大的变化，由于反动派疯狂向东北增兵，导致东北的局势越来越复杂，中央决定不再迁往东北。
此后随着我军在解放战场上不断取得胜利，越来越多的大城市被解放，这样中央和的眼光也就不再仅仅局限于哈尔滨了，南京、西安、洛阳、开封、北平等城市都浮现在了眼前，最后他的目光锁定在了北平。
对于北平是有着很深的感情的，1918年8月，为了联系湖南青年学生留法勤工俭学的事，他就专门来过北平，并在北大图书馆担任了几个月的管理员，在图书馆主任李大钊的引导下，他逐渐成长为一名坚定的马克思主义者。
1919年12月，作为湖南的领袖，为了争取全国对湖南人民驱逐军阀张敬尧的支持，带领40人再次来到北平，经过斗争终于取得了成功。
两次北平之行，给留下了深刻的印象，使他对北平的古老文化、美丽风景和宏伟建筑充满了自豪感。而且北平还是“五四运动”和“一二·九运动”的发源地，可以说是中国新民主主义革命的发祥地。因此等人必然会考虑将北平作为新中国的首都。
1948年5月，中央要求晋察冀、晋冀鲁豫解放区合并，组成华北中央局党的机构和华北人民政府。同年9月8日至13日，中央在西柏坡机关小食堂召开政治局扩大会议，史称“九月会议”，这次会议有一个重要的议题就是筹划新中国的建设。经过讨论，中央第一次明确决定在1949年成立人民共和国和中央政府。
会议期间，同当时负责第1兵团在山西作战的进行了谈话，他说：“如果阎锡山同意和平解放太原，那么，请他把军队开到汾孝一带，我们的部队开进太原，麻烦就少了。”
回答说：“恐怕不太容易。我们曾采取多种方式争取和平解放太原，还动员阎锡山的老师带了以我的名义写给他的信，进太原找老阎。结果他不但不听劝，反而不顾师生情谊，把那位年近八旬的老秀才给杀了，可见他顽固得很。”
听后，若有所思地说：“看来太原不打是不行了，最好北平不要打。”此时的已经有了定都北平的想法了。
1948年11月8日，与华北中央局书记进行了一次重要的谈话，在这次谈话中，他明确提出了定都北平的打算，他说：“蒋介石的国都在南京，他的基础是江浙资本家。我们要把国都建在北平，我们也要在北平找到我们的基础，这就是工人阶级和广大的劳动群众。”
这年12月中旬，中央任命彭真为北平市委书记，为北平军管会主任兼北平市市长，统一领导北平的接管工作。专门接见了彭真和，满怀期望地对他们说：“这次接管北平，影响到中外。你们务必要像接管沈阳、济南那样，取得更好的成绩，不要落在沈阳和济南之后。”
也深刻意识到中央可能要选择北京作为首都，因此他要求广大干部一定要高度重视北平的接管工作，他强调说：“北平是一个有关国际观瞻的城市，是我们自己的城市，是红色的首都。”
而此时参与平津战役的也已经意识到了中央非常可能定都北平，他对罗荣桓说：“应该尽最大的可能争取和平解放北平。如果党中央决定定都北平，再把它打个稀巴烂，到时候连个住处都没有。”
把力争和平解放北平的想法向汇报后，得到了的高度赞扬。在解放北平的过程中，还多次致电前线指挥部，要求他们一定要尽量保全北京大学等名胜古迹和文化教育机关。部队指战员也非常重视，还专门派出了两名干部深夜来到著名建筑学家梁思成的住所，请他在地图上标注出重要文物和古建筑的方位，防止被炮火摧毁。
在我强大的军事、政治攻势下，1949年1月30日，北平守军长官傅作义宣布接受和平改编，北平和平解放，城内所有的名胜古迹都得到了保护。
1949年2月下旬，时任中央东北局城市工作部部长的王稼祥抵达西柏坡，参加党的七届二中全会。王稼祥刚到西柏坡，就去看望，笑着递给他一根香烟说：“今天，我用美国货招待王主任，这是美国骆驼牌，陈毅同志送来的战利品。美国人不远万里送到中国，蒋委员长又转送给我们，盛情难却呀！”
说：“历朝历代基本上把京城定在西安、开封、洛阳、南京、北平等地。我们就要胜利了，你看在哪里建都最合适呢？中央虽有考虑，但还没有最后定案，想听你的意见。”
王稼祥首先从南京说起：“南京虽然自称虎踞龙盘，地势险要，但是只要翻开历史就会知道，凡建都金陵的王朝，包括政府都是短命的。这样讲带有历史宿命论的色彩，我们当然不相信这一套。但从另外一个角度看，南京离东南沿海太近，从当前的国际形势看，这是它的很大缺陷。”
王稼祥说：“西安的缺陷是太偏西，现在不是秦汉隋唐时代了，今天中国经济重心在沿海和江南，由此看西安也不合适。”
王稼祥说：“如今中原地区经济落后，而且这种局面不是短期内能够改观的，加之交通以及黄河的水患等问题，洛阳和开封也就失去了作为首都的地位。”
王稼祥说：“我认为最理想的地点是北平。北平位于沿海地区，属于经济发达圈内，而且邻近东北六省，战略地位十分重要，也便于发展工业。同时，它又邻近苏联和蒙古，无战争之忧，虽然离海较近，但渤海是中国内海，有辽宁、山东两个半岛拱卫，从战略上看也比较安全，一旦国际上有事，不至立即使京师震动。此外，北平作为首都已有700年的历史，人民群众在心理上也乐于接受。”
1949年3月5日至13日，党的七届二中全会在西柏坡召开，在会上宣布：“我们希望四月或五月占领南京，然后在北平召集政治协商会议，成立联合政府，并定都北平。”自此定都北平已成为中央的决定，并告知了全党。
等进入北平后，考虑到城里的社情复杂，敌特还没有完全肃清，治安条件还比较差，他认为中央暂时不宜进驻城内，而是住在城郊为好。经过挑选，他把中央机关的居住地安排在了北平西郊的香山。
北平城里经过一段时间的清理和整修后，敌特人员基本被肃清，也里里外外焕然一新，于是打了一个报告，请党中央和迁入。
的报告得到了周恩来的高度赞赏，但却不肯搬。几天以后，只好亲自来到香山，他对说：“根据工作需要，准备请主席和其他领导同志到工作、生活……”
直接打断了的话：“我不喜欢，这个地方我不去，为什么非要把我关进红墙大院内，与群众隔开，我们不能学李自成！”
见劝说无效，只好先回去，他走了以后，又严肃地对周恩来说：“我不搬，我不做皇帝，这个真固执。”
但中央的领导同志都认为，是开会和办公的最佳场地，也很安全，四周的红墙就是一道紧固无比的天然屏障。最后由政治局讨论做出决议，少数服从多数，在众多同志的反复劝说和强烈要求下，虽然不情愿，但也只好接受了大家的建议，他开玩笑说：“听人劝，吃饱饭，搬就搬吧！”
9月21日，中国人民政治协商会议第一届全体会议在怀仁堂开幕，与会代表们经过讨论，一致同意建都北平，但大家对于北平是否应该改名存在异议。张奚若说：“国都定在北平，大家不会有意见的，但既然南京已经不是国都了，有人提议南京要改名。”
为什么坚持要把“北平”改为“北京”呢？因为自从明成祖朱棣在北平建都后，北平就被改称北京，直到蒋介石把国民政府定都南京，北京才在1928年被改称为北平。坚持把北平改为北京，就是为了反映出与政权的根本区别。
9月27日，大会通过了国都问题的决议案：“全体一致通过中华人民共和国的国都定于北平，自即日起改名北平为北京。”