其实，谌小岑与周恩来及中共已经完全没有联系了，他接受任务后也毫无办法，想来想去，他想到了时任北平中国大学教授、自由职业者大同盟书记的吕振羽，因为自由职业者大同盟是一个进步组织，在抗日救亡运动中影响很大，谌小岑认为这个组织一定是共产党所领导的，吕振羽也一定是共产党员，很可能还是共产党的什么官。因此，谌小岑便根据曾养甫和陈立夫的旨意，于1935年11月给吕振羽写了一封信，信中说：“近年以来，东邻欺我太甚，惟有‘姜府’和‘龚府’联姻，方期可以同心协力，共谋对策，以保家财。兄如有意作伐，希即命驾南来……”
吕振羽当时还不是共产党员，但他与中共北平市委有联系，他接信后，即向中共北平市委宣传部长周小舟作了汇报，周小舟按照中共北方局的指示，先派吕振羽“立即去南京，探明此事系何人发动和主持”。待吕振羽出发后，中共北方局又派周小舟于1936年1月专程赴宁与吕振羽商谈谈判事宜。为了取得中共中央的支持，2月，中共北方局负责人之一的王世英离开天津，经西安来到山西前线，当面向毛泽东、周恩来汇报了与南京方面接触的情况，毛、周均表示了极大的兴趣，并对王世英作了关于与国民党谈判的指示。根据这一情况的变化，毛泽东指示中共方面应作出姿态。5月5日，中国工农红军发表《停战议和一致抗日》的东征回师通电，要求南京政府“在全国范围、首先在陕甘晋停止内战，双方互派代表，磋商抗日救亡的具体办法”。以推动国民党加快合作的步伐。
司徒雷登对陈氏兄弟的厌恶，从一定程度上决定了其失势的结局。同年3月，中共北方局派周小舟再次赴南京，直接和曾养甫谈判。这次，周小舟带来了一封由毛泽东、朱德、周恩来三人具名盖章写给曾养甫和谌小岑的信，信中重申了中共《八一宣言》关于建立抗日联军和国防政府的主张，对于国民党方面停止内战、一致对外的举动表示欢迎。
在曾、周谈判中，曾养甫因为有陈立夫作后盾，表现出迫切的心情，他希望两党能尽快合作，说：“现在正是马克思主义发挥作用的时候了，日本人打到我们家门里面来了，应该大家携手努力奋斗。”他还说，红军既要抗日，就加入国民革命军好了。周小舟见曾的兴致很高，便抓住时机，提出就一些有关两党合作的具体问题进行讨论，但曾养甫没有得到陈立夫的具体指示，不敢贸然行事，这次会谈虽然气氛融洽，但没有明显结果。
后来，中共方面又一再提出，要就具体问题进行谈判。谌小岑也再三建议，应该给中共一个关于双方联合抗日的具体条件的回信，曾养甫便向陈立夫报告了与共产党人周小舟几次谈判的情况，并提出，下一步应该就两党合作的具体问题进行谈判。陈立夫对国共两党间的初步接触是满意的，但关于具体条件，他也不敢自作主张，他需要向蒋介石请示。
为了使国共之间的秘密接触更进一步，陈立夫晋见了蒋介石，向他报告了国共初步接触的情况，并提出自己的建议，蒋介石表示：只要红军承认中央政府的权威，保存现有编制，参加抗日，他可以同中共谈判。陈立夫便根据蒋介石的指令，拟定了一个大概的条款，在送蒋介石审阅，得到蒋的同意后，准备对中共方面给予答复。
1936年5月中的一个上午，陈立夫来到曾养甫家，说有重要事情交代，并要谌小岑也参加，曾养甫即用电话找来了谌小岑。陈立夫神情严肃，要曾养甫找来笔和纸，他自己坐在沙发上一字一顿地口述，让谌小岑代笔，给中共方面写回信。陈立夫指示谌小岑，用“K”字代表国民党，用“C”字代表共产党，他提出了国共两党合作抗日的四项办法：
（一）K方欢迎C方的武装队伍参加对日作战；
（二）C方武装队伍参加对日作战时，与中央军同等待遇；
（三）C方如有政治上的意见，可通过即将成立的民意机关提出，供中央选择；
（四）C方可选择一地区试验其政治经济理想。
这四项条件由谌小岑抄写成多份，从几个渠道转交给中国共产党。
6月1日，两广事变发生，面对国内外错综复杂的形势，蒋介石顾此失彼，捉襟见肘，为了急于摆脱困境，他指示陈立夫加快“打通共产党关系”的步伐。这时，中国共产党方面通过吕振羽提出了两个具体问题，即划定防区让南方红军游击队集中与释放政治犯，要求国民党方面给予答复。陈立夫由于得了蒋介石的指令，他的积极性比以前明显提高。对中共提出的两个问题，他略加考虑后即表示：释放政治犯可以办到，只要中共开出名单来，就可照办；划定防区则暂时可以不必，但南方红军可以分散北上。为了进一步加深双方了解，陈立夫准备派曾养甫到延安去，直接与毛泽东、周恩来会谈，他还发出邀请，要周恩来到南京，当面解决一些具体问题。
当选为正副总统的蒋介石与李宗仁。7月，国民党五届二中全会召开，蒋介石在会上对抗日的“最后关头”有了比较明确的解释，他说：“假如有人强迫我们签订承认伪满洲国等