4月16日伍廷芳、林森到上海后，国民党召开紧急会议，研究进一步否认军政府在法律上的效力。由于军政府的组成是以七总裁为基干，最高行政机构政务会议须有过半数的总裁出席才有效，现在广州只留下岑春煊、林葆怿两人，而林葆怿也已宣布辞职，所以国民党认为广州的政务会议是没有效的。
广州方面的解释则不然，广州的政务会议说：七总裁中孙中山已经辞职，唐绍仪根本就没有就职，所以军政府的总裁只有五位。现在在广州军政府这一方面的，还有岑春煊、陆荣廷和林葆怿三位，所以还是多数，因此政务会议是合法的。这当然是强辞夺理。为了要凑数，有一部分人主张索性把军政府改组为清一色的桂系，补选广东督军莫荣新、广西督军谭浩明为总裁。这当然是走极端的一法。岑春煊是陆荣廷的长官，陆荣廷又是莫荣新和谭浩明的长官，这四位同为总裁，就变成三代同堂了。所以莫、谭均以“不敢和长官并驾齐驱”为理由推翻了这个建议。
5月4日，广州国会补选熊克武、温宗尧、刘显世为总裁，以补孙中山、唐绍仪、伍廷芳之缺。熊代表四川，刘代表贵州，温代表北方。四川和贵州是和云南一致的，广州故意选出熊和刘，是有意分化滇系。
在上海召开国会的计划受到了打击，由于广州方面委托律师在香港控告伍廷芳卷走公款，因此伍廷芳汇存到上海汇丰银行的存款被判决假扣留。没有钱不能办事，这是最伤脑筋的。5月5日，到沪议员召开谈话会，决定国会迁滇，并发表宣言，否认广州的军政府和国会。
6月2日，孙中山在私邸召集唐绍仪、伍廷芳、李烈钧及唐继尧的代表举行会议，旧国会议长吴景濂、林森、王正廷、褚辅成都被邀参加，会议决定由孙、唐、唐、伍四总裁发表联合宣言，全文如下：
“自政务总裁不足法定人数，而广州无政府。自参众两院同时他徙，而广州无国会。虽其残余之众，滥用名义，呼啸俦侣，然岂能掩尽天下耳目？即使极其诈术与暴力所至，亦终不出于两广。而两广人民之心理，初不因此而淹没，况云南贵州四川，固随靖国联军总司令为进止，闽南湘南湘西鄂西陕西各处护法区域，亦守义而勿渝。以理以势，皆明白若此，固知护法团体，决不因一二人之构乱而涣散也。慨自政务会议成立以来，徒因地点在两广，遂为一二人所把持；论兵则惟知拥兵自固，论和则惟知攘利分肥，以秘密济其私，以专横逞其欲，护法宗旨，久已为所牺牲，犹且假护法之名，行害民之实，烟苗遍地，赌馆满街，吮人民之膏血，以保骄兵悍将之愿，军行所至，淫掠焚杀，乡里为墟，非惟国法所不容，直人类所不齿。文等辱与同列，委曲周旋，冀得一当，而终于忍无可忍，夫岂得已？惟既受国民付托之重，自当同心戮力，扫除危难，贯彻主张……”
同时，唐绍仪备了公函送达北方总代表王揖唐，要求恢复和谈。
6月6日，广州军政府政务会议议决：撤换南方议和总代表唐绍仪，改派温宗尧继任；通告北京政府，南方政务总裁孙中山、唐绍仪、伍廷芳三人的总裁资格业已取消。并且发出急电云：
“王揖唐为北方议和总代表，此间始终并未承认，而唐绍仪复经撤销总代表，所有唐、王私议之和平条件，不能发生效力。……上海租界内所称之军政府，除唐继尧未辞职外，唐绍仪始终未就职，孙文业于八月间辞职，伍廷芳于本年三月间卷款弃职，经于五月四日由国会非常会议宣告免职，另行改选。孙、唐、伍三人所有宣言及一切行动均属无效。”
广州的一举一动，在北京的徐世昌是赞成的，可是段祺瑞和安福系都予以冷淡。段系对上海的发展寄有极大的兴趣，唐绍仪给了王揖唐恢复和谈通知后，唐、王就互相拜访，谈得非常投机，昨天还是路人，今天却变成了老友。这种友好性的接触，显示出前途的乐观，双方似乎均本着互相忍让的精神，提出对方可以接受的条件，期使和谈获有具体结果。段祺瑞还直接回答了孙、唐、唐、伍四总裁一封电报，赞成恢复上海和谈。
徐世昌则对上海的发展表示冷淡，6月7日他叫国务院致电王揖唐，提出了四点质问：（一）唐绍仪的和谈总代表资格问题，唐原由广州军政府所委派，现在唐否认广州军政府的存在，则唐本身地位来自何处？（二）孙、唐、伍诸总裁或久已辞职，或现已离任，现在聚集上海私邸开会，上海又不属于西南范围。则诸公所议各项是否能发生效力，而西南各方对于此项集议，是否一致赞成？（三）孙、唐、伍三公既否认两粤现行机构，则上海和议一旦有成，两粤能否一致奉行而无反抗？（四）唐绍仪总代表上年所提八条，中央迭次抗争，和议因之中梗……。今少川（唐绍仪号）宣言仍以八条为据，遽与开议，是否有前后矛盾之嫌？以上四点统希核复，再酌应付。从这通电报中看出徐世昌是不愿以上海三总裁及唐绍仪的议和代表为对象。
6月7日下午安福系推出议员20余人见徐，请徐明告对上海和会的态度，徐竟不接予接见，议员们坚持要见，僵持到夜晚10时，总统府秘书长吴笈孙才跑出来作揖打拱说：“元首有病，请诸位明天来。”6月8日安福系要员在太平湖开会讨论上海和会和应付徐世昌问题，曾毓隽认为徐世昌只以岑春煊为对象，不支持上海和会是破坏和平，主张国会提出弹劾破坏和平的总统。经讨论后，改为推举两院议员见徐质问不重视上海和会的理由，同时两院通电赞成上海和会继续进行，以便早日达成协定。于是李盛铎、田应璜、刘恩格前往访徐，徐向他们吞吞吐吐地表示：（一）政府对王揖唐并无不信任之意。（二）南方军政府发生内乱，北京政府当然可以置身局外。（三）南方军政府改派温宗尧为南方总代表，北京政府尚未承认。
一六四、吴佩孚衡阳撤军
吴佩孚衡阳撤防是改变南北形势的一个惊人行动。后来吴成为北洋时代风云人物也是由此开始。
吴师撤防是从9年5月20日开始。吴事前曾电请张敬尧派员到衡州协商接防问题。张敬尧派湖南暂编第二师师长（北军）吴新田为“主持湘南防务司令官”，于21日到衡州，与吴佩孚及湘军代表签订条约，南北两军维持原有停战界线，湘直两军停战协定继续有效。一直到吴师自动撤防的前夕，北京政府才有电报批准直军撤防。吴师开拔时作环次队形的布置，主力第三师居中，湘江两岸各设掩护队，前方设有侦察线，后面设有殿卒，大军扬帆而下，全军齐唱吴所亲撰的《登蓬莱阁歌》。
吴有《回防途次》诗曰：
行行重行行，曰归复曰归。江南草木长，众鸟亦飞飞。忆昔赴戎机，长途雨雪霏。整旅来湘浦，万里振天威。孰意辇毂下 ，妖孽乱京畿。虺蛇思吞象，投鞭欲断淝。我今定归期，天下一戎衣。舳舻连千里，旌旗蔽四围。春满潇湘路，杨柳正依依。和风送归鸟，绿草映晴晖。少年惜春华，胜日斗芳菲。来路作归程，风景仍依稀。周公徂东山，忧搀亦畏讥。军中名将老，江上昔人非。建树须及时，动静宜见几。何日摧狂虏，发扬见国威。不问个人瘦，惟期天下肥。丈夫贵兼济，功德乃巍巍。江上送归舟，风急不停挥。得遂击楫志，青史有光辉。春日雁北向，万里动芳徽。鸿渐磐石愿，衍衍不啼饥。止戈以为武，烽烟思郊圻。同仇复同仇，归愿莫相违。
吴师于5月20日开始撤防北归，27日由水路经过长沙。张敬尧怕他舍舟登陆，战长沙，夺帅印。所以在湘江右翼配置了强大的兵力，但只作防御准备。而吴师根本无上岸打算，虽亦作紧急戒备，不过是怕张军袭击而已。双方均未挑衅战火，吴师乃扬帆而去。
吴师于5月29日过岳州，也未停靠，31日集中汉口，由于车辆缺乏，一直到6月5日才开始向北移动。
吴佩孚虽然请张敬尧派军接防，可是实际上他是决定把衡阳移交给湘军的。湘军骁将赵恒惕是他心仪的人物，两人惺惺相惜。所以吴师整装待发的时候，就是湘军执戈待动的时候。不过，当时的形势对湘军是很不利的。张敬尧是北洋勇将 ，他的军队已经扩充到7万人，他自兼北军第七师长，可是他所直属的部队则有湖南暂编第一第二两师和第一混成旅。归他节制指挥的还有协助长沙防务的第十一师（师长李奎元），驻防湘潭的第廿师（师长范国璋），驻防常德的第十六混成旅（旅长冯玉祥），驻防湘东的暂编第一师（师长张宗昌）和安武军一部分。
衡州和宝庆是长沙的前方两个重点，张敬尧派他手下的两员大将，湖南暂编第一师长田树勋守宝庆，兼长宝镇守使，第二师长吴新田守衡州。
张敬尧是安徽霍邱县人，出身是徐淮间的流寇，后来入伍为小兵。癸丑二次革命时，他随李纯入赣任第六师的团长，由此擢升为第七师长。老袁称帝前，他在北京同兴饭馆对人扬言说：“大总统做大皇帝，下一道上谕就成了，干什么还要研究和请愿？”有人把这些语报告袁，袁生气说：叫这个老粗不要乱讲话。可是心里则喜欢他的憨直。护国军起，袁派他入川，袁死后，他又向张勋递门生帖子。复辟失败，他倒向皖系，成为对南方主战派的中坚。他是反直系长江三督的主要人物之首，由于他是跟李纯起家的，他骂李纯最有力量，他的通电大骂秀帅夫子（李纯字秀山），以讨好于芝老上将夫子（段祺瑞字芝泉）。段赏识他头脑简单，所以把湖南督军宝座送给他。
据说张在督军任内时，曾文正的曾孙女曾宝荪在长沙创办艺芳女学，曾宝荪的父亲是文正长孙老翰林曾广钧（重伯）。宝荪从小就跟英国女教士巴小姐赴英国留学。张竟动念头到这位小姐的身上，遣人邀曾翰林赴督署一谈。曾广钧到督署见到张，口呼督军老伯 ，敬尧愕然不知所对，面对着文正公的长孙，对自己如此称呼，不无受宠若惊，邪念为之大减。曾辞出后向人说：“听说张督军的先君讳总愚，我先祖曾保荐过他，这样算起来张督军自然是我的父执了。”其实这是曾的苦肉计，把张敬尧的辈份提高。使他不能动后辈的念头。张总愚究竟是不是张敬尧的父亲，谁也不知道，张总愚是捻军的头目，后来被招安的。
吴师撤防以及北归的经过，及抵河南布置情形，兹特抄录张一麐所编《直皖秘史》一段，其中叙述甚详，张文云：
“吴佩孚将湘南撤兵事宜布置妥善，至军队分水陆两道陆续开拔后，遂于廿五日由衡阳乘舟启行。各界人士均至河干欢送。经过株州、湘潭，均受各界欢迎。至廿八日上午，直军前队已开到省垣，人民站立观看者，大有牵袂成帷之势。吴部士兵均赤手对坐，状极闲雅，且有扣舷而高唱军歌者，一望而知其为久经训练，纪律严明之师，络绎而来，前后共过廿一班。然后红旗招展，气笛呜呜，而吴氏所乘之‘新鸿运’火轮至矣。于是岸上军乐大作，军警均行举枪敬礼。吴氏船上亦频频鸣号答礼。湘督张敬尧亲自出迎，以吴氏不肯登岸，即率军政要人分乘火轮，驶近‘新鸿运’，随即过船，与吴氏谈叙十分钟之久，始返棹而回。
吴氏由长沙启碇，于廿九日上午抵岳州，仅带骑卫队廿四名，登岸入城，以镇署为行台。午餐后与地方各长官步行至岳阳楼上参观名胜 ，随即绕道游视城垣，至西门新修处（系前岁直军攻岳时以轰城炮击倒伤毙数百人之处），吴氏触目惊怀，回行台后，谕军需处备具祭品，于卅日就岳阳楼开追悼会，奠祭直军死义将士，至卅一日午前，直军大队人马数近二万人，由岳到鄂，一片人影，满布江中，俱向刘家庙登陆，吴氏则押军后行，所有省垣各机关各法团领袖，均预先渡江赴刘家庙迎迓。至下午一时，吴氏到汉，傍晚由王督军欢迎过省宴叙，其所带军队则暂住刘家庙车站。
吴氏离湘之初，原拟抵汉后俟所部到齐将车辆等部署粗定，即轻车简从先行北返，嗣以湘中风云骤变，南军进占吴氏前驻各地，尤应请命曹锟再定行止……。政府因即去电敦促即日北上，而吴氏则以无款开发船价及交通部不拨车辆为搪塞之计，依旧屯驻汉口。盖静以观变，别具深意也。
吴军滞留汉口，久而不发，因之谣言蜂起。而政府以吴氏按兵武汉。实足引起各方之猜忌，直接促归无效，即电由曹锟转饬速行。吴氏迫不得已，乃派其参谋长赴汴与赵倜密商，拟将吴部暂驻信阳、许州、郑州等处，其欲暂驻豫境之原因，即以皖派举动可疑，暗中已有出师筹备，必将军队分布豫境，则北贯京畿，南扼武汉，京汉道上必非皖派所得问津矣。吴军驻屯豫境之计划既与赵倜双方商妥，遂