後不幾天，國民黨上海黨部在上海找到了中共“三大”《關於國###動及國民黨問題的決議》、中共中央三屆一中全會《關於同志們在國民黨工作及態度決議案》及中共中央執行委員會會議決議等中###內檔案。從中發現中共不僅在國民黨內進行黨團活動，而且有在國民黨左派中發展黨員擴充套件自身組織的目的。他們認為這違反了李大釗在國民黨“一大”會議上所作的“共產黨非黨內之黨”的宣告。當初為建立國共合作積極與各方聯絡的國民黨上海黨部負責人張繼與從一開始就反對國共合作的謝持竟聯合起來，從上海直奔廣州找孫中山告狀。
為了妥善解決這一問題，孫中山決定國共兩黨採取談判的方式來尋找途徑。
5月中旬中共領導人陳獨秀與國民黨領導人汪精衛、張繼在廣州就共產黨在國民黨內的黨團問題舉行談判。
談判開始，汪精衛和張繼便將他們所獲得的中共內部檔案交給陳獨秀，認為這是中共在國民黨內開展黨團活動的證據。汪、張二人表示，國民黨內諸多人士不贊同國民黨內“黨中有黨”。他們一致向陳獨秀提出共產黨應該取消在國民黨內的黨團組織。
陳獨秀坦然承認中###員和社會主義青年團在國民黨內確有黨團的組織，但否認這違反了李大釗在國民黨“一大”所作的宣告，認為這既不是黨中有黨，也不會危害國民黨。陳獨秀誠懇地解釋說：“中共在國民黨內有黨團組織，其用意是指導它的同志們遵守國民黨的決議和紀律，積極工作，並不是要他們在國民黨內爭權奪勢，鬧派系和攪和其他不利於國民黨的事。”
汪精衛和張繼對陳獨秀的這種解釋並不滿意，他們仍然堅持要中共取消在國民黨內的黨團組織。
陳獨秀也毫不退讓，他說：“中共如果遵照國民黨的意見，取消在國民黨內的黨團組織，這無疑是將我們共產黨的組織熔化在國民黨內，沒有獨立性了。這是我們做不到的！”
雙方都不肯讓步，一時情緒激動，氣氛緊張。為了不使剛剛建立的合作出現裂痕，陳獨秀最後作了緩和的表示，他答應汪、張二人，中共中央將舉行會議商討，待討論確定後再行答覆。
據當時陳獨秀的主要助手張國燾在《我的回憶》一書中所說：陳獨秀在談判後，思想上有所動搖。陳認為共產黨不能取消黨團組織，但要國民黨預設黨內有黨團存在，也是做不到的，他十分感慨地說，如果他是國民黨，也要反對中共這種黨團組織的辦法。他還分析道：胡漢民、謝持、汪精衛、張繼這4個人幾乎可以代表國民黨全體，除謝持外，其餘3人都不能說是右派，而且都是支援國民黨改組的，現在他們共同提出這個問題，決不能等閒視之。 。。
國共合作幾乎破裂（2）
為了徵求意見，商討應付辦法，陳獨秀主持召開中共高階幹部會議。透過認真討論，大家一致表示：中共在國民黨內的黨團組織不能取消，認為現在只有兩途可循：或者國民黨預設中共的黨團能在國民黨記憶體在；或黨內合作破裂，中共退出國民黨，另謀黨外合作，但第一種途徑是最好的，應盡力爭取。
但沒等中共方面的答覆，國民黨內一些右派人物便迫不及待地公開發難了。6月18日，國民黨中央監察委員鄧澤如、張繼、謝持等聯名向國民黨中央執行委員會提出彈劾中共的呈文。隨後，張繼、謝持等人又發表了《護黨宣言》，攻擊中共，將破壞國共合作的罪責強加於中共，反對國共合作。
張繼等人的彈劾案及《護黨宣言》提出並發表後，上海、北京、漢口、廣州、香港等地的國民黨右派分子群起呼應，有的聯名上書，有的致電孫中山，要求國民黨中央親自出面解決此案，“命令共產黨員全數退出本黨，並予傾向共產黨者以嚴重製裁”。於是國共合作的大潮中湧出了一股###逆流，大有