6年11月下旬的一天，西畫系主任王濟遠正在上課，外班的一個名叫朗應年的學生擅自走進教室與班上一個同學講話，旁若無人，王濟遠忍無可忍，喝令朗應年出去，朗應年不服，與王濟遠發生激烈爭執。
朗應年在學生中間有些影響力，與王濟遠結怨後就煽動學生組織學生會，要求學校開除王濟遠。學校不能容忍這樣無禮的要求，開除了以朗應年為首的三個學生，學生會組織學生罷課，王濟遠憤然遞交了辭職函。事情越鬧越大，不得已學校只好提前放假。但是這個決定又遭到了學生的反對，有一部分對美專不滿意的老師隨即帶領一部分學生又成立了新華藝專。走了一部分老師和學生，上海美專的元氣大傷。
第二年開學時，去新華藝專的學生又要求返校，與校方發生衝突，事情演變愈來愈厲害，劉海粟在各種壓力下被迫辭去了校長職務。
關於1927年學生風潮的事件起因，劉海粟在時隔幾十年後說，起因是潘玉良。在一次電視採訪時，劉海粟說：“潘玉良在上海美專讀書時，大家並不知道她出生青樓。有一次週末開同樂會，師生都要表演節目，輪到潘玉良表演時，她推卻不了，就唱了一段《李陵碑》，字正腔圓的演唱，驚呆了所有在場的人，因為這不是一般人能達到的，必受過嚴格訓練，於是讓同學起了疑心，才千方百計打聽她的過去，才有身世洩密，鬧出退學風潮……”
學生退學風潮還未平息，上海又迎來了白崇禧部隊，以李宗仁、白崇禧為首的新桂系，協助蔣介石發動了“四一二”反革命政變，建立了南京政權。一時間，上海陷於刀光血影、一片恐怖之中。劉海粟與章太炎、黃炎培等知名學者的名字一起出現在了國民黨的“學閥”名單中。在黃炎培的勸說下，劉海粟離開上海，流亡日本。
1919年，劉海粟曾經遊學日本，這一次是流亡而去，心情大不一樣。不過在日本，劉海粟遇到了同樣流亡天涯的舊友、美專教員王濟遠，畫家張善子，著名詩人柳亞子等，生活倒也不寂寞。
柳亞子後來寫了一篇文章記錄了他和劉海粟在日本街頭相遇的情景：
1927年，我在日本東京市外井之頭公園中，第一次遇到了他，卻大家都在過著亡命的天涯。這時候的當局者，大概嫌我的思想太左傾了，以為是有什麼嫌疑之類；而對於海粟，卻又認為太右，加以“學閥”的頭銜。做人是這樣的不容易吧，我們一見面就笑起來。於是談政治，談文學，談到拜倫，談到曼殊，很是津津有味的。酒酣耳熱之餘，我便寫了兩首舊體詩送給他： 電子書 分享網站
劉海粟出國遊學（2）
相逢海外不尋常，
十載才名各老蒼，
一卷拜倫遺集在，
斷鴻零雁話蘇郎。
白衣送酒陶元亮，
皂帽居夷管幼安，
一笑勸君鉗口好，
人間雞犬盡淮南。
劉海粟拜訪了第一次來日本就認識的著名畫家小室翠雲，後來又陸續認識了日本畫壇的橋本關雪、滿谷國四朗等人。在日本兩個月時間，收穫頗豐，在朝日新聞社做演講，並做了一個很隆重的畫展，“劉海粟”這三個字便在日本畫壇上響起來。
1927年8月，國內形勢好轉一些，在蔡元培的信件催促下，劉海粟渡船回國。他向蔡元培提出想要出遊歐洲學習的願望，蔡元培時任國民政府大學院院長，劉海粟的這一想法得到了蔡元培的大力支援，不僅僅為他提供了留學名額，還為他謀到了學院特論員一職，每個月有160元的收入，一下子幫劉海粟解決了生活上的後顧之憂。
劉海粟很感動，寫了一封信給蔡元培：
屢蒙我公嘉惠提攜，竊以為生平大幸。嘗自傲曰，生平無師，惟公是我師矣。故