刘邦本是明智之人，闻张良将此事与志向相连也幡然醒悟，起身谢道：“蒙君提醒，我离开此地。”
刘邦随张良走出宫外，立即下令，封府库，闭宫室，亲统兵马还军霸上。
十一月，项羽消息不断传来，刘邦已知羽军将至函谷关，心绪难以安宁：从彭城与羽分手，取陈留，越武关，下烧关，直至降子婴，自己虽打了几次硬仗，但秦军主力时在河北，如无项羽领军北进，自己能否顺利入关灭秦?今项羽已败章邯，即将到秦，到时情况又将如何?虽当初有约：先入秦者，为关中王，可项羽是遵约之人吗?
刘邦正心神不定，有人进言说：“秦比任何地方都富饶，且地形易守难攻。今闻章邯降项羽，项羽立其为雍王，王关中。
如项羽到来，公愿恐难实现。为此，可速派人马守住函谷关，阻住项羽及各诸侯军，然后征集关中人马，以自立。”
刘邦闻言，正合心意，当即派出人马，往守函谷关。
人马派出，刘邦仍感心中不安，经反复思索，遂令部下往召关中父老、豪杰，聚集霸上。
几天后，人已到齐，遂在营前空地，召开了会议。刘邦站在众人前面，朗声宣布：
“父老苦秦苛法，时日已久，诽谤遭族诛，偶语被弃市，延续到今。我关中王之命，率军伐无道。怀王与诸侯有约：先入关者，为关中王。今我已入关，当为秦王。现我与诸父约法三章：杀人者处死；伤人及盗贼，按轻重处罚；亡秦苛法，全部免除。凡官吏百姓，自此可安枕无忧。我所以还军霸上，是等其他诸侯到来，共同约束，别无他意。"