戴上右派帽子之時，他說：“伽利略雖被投進監獄，但地球仍在繞著太陽轉！”
黃萬里被定為右派後，工資從二級教授降至四級教授，大部分時間在家中賦閒，既不準講課，也不準發表文章，甚至連“先生”“教授”的稱呼都不能用在他身上。他的學生趙文源因請教問題，叫了一聲“黃先生”，“頓時感到唰的一聲，在座的所有師生的目光，一齊射向了我，目光中含有責備和不滿，或許還有一些疑惑和不解。”
一年後，黃萬里被送到密雲水庫勞改，住在乾打壘的半地窖裡。1959年，隨著寒冷日子的臨近，飢餓越來越逼近人們，在水庫工地上，人們也飢餓難熬。黃萬里表面上力爭保持著平靜，但他的內心卻是痛苦的，他寫給家裡的信中說：“我真需要我哪個兒子能在身邊，我可以扶著他走回去。”
“文革”中，他被貶到三門峽掃廁所以示懲罰。可就是在這樣的生活中，黃萬里一直沒有忘記三門峽。在工地勞動的業餘時間，他完成《論治理黃河方略》等許多重要科學論文，為後人留下了寶貴的資料和經驗。
在三門峽工程敗象已露時，黃萬里本有一次“摘帽”的機會，但被他拒絕了。據他的長子黃觀鴻會回憶：那是1964年的一天，傳達毛主席春節座談會講話，毛在會上對我祖父黃炎培說：“你兒子黃萬里的詩詞我看過了，寫得很好，我很愛看。”我一聽，喜出望外，心想這回父親的“帽子”摘定了。我告訴父親這個“好訊息”，父親說：“事情不是你想的那樣。是上邊透過你大大（祖父）要我寫個檢討，交上去。”這本是父親“摘帽”的大好機會，他卻附詩賦詞上書說：三門峽問題其實並無高深學問，而是1957年三門峽70人會上，除我之外無其他人敢講真話。請問“國家養仕多年，這是為什麼？”
一句不恭的質問使黃萬里丟掉了“摘帽”的機會，自1958年清華大學黨委宣佈黃萬里被劃為“右派”，這“帽子”一戴就是21年——他是清華右派倒數第二個被改正的右派，最後一個獲得改正的是錢偉長。
“高壩大庫蓄水攔沙”方案的另一個反對者是電力部水電總局年輕的技術員溫善章。1955年，還是天津大學水利系在校生的他看了國務院副總理鄧子恢關於黃河規劃報告中所提到的三門峽大水庫，認為不符合中國國情。後來，三門峽水庫的設計要將蓄水水位提到360米，這樣，陝西關中平原350萬畝良田將被淹沒，移民人數也將達90萬。這組資料使溫善章無法接受。他說：“我是從農村出來的，我瞭解農村”。
他提出了一箇中央不得不考慮的問題：關中平原乃中華文明最精華的所在，如三門峽水庫將其淹沒，那將是一件不能用經濟資料衡量的事！且大量淹土將帶來大量難以解決的移民問題。為了減少淹沒土地和移民，溫善章提出了水位335米、庫容量90億立方米、滯洪排沙的低壩水庫方案，這樣，庫內移民可降到15萬人以下。
這一方案得到了有關方面認可。時任水利部部長的李葆華在給溫善章的回信說：“你所考慮的問題確實是一個重要問題，中央有幾個負責同志也考慮三門峽水位不要太高，少移一點民，少發一點電。我們正在研究這一問題。”
1957年6月，周恩來批示水利部對相關意見進行討論，70名專家聚集北京。會上，支援溫善章排沙降低設計水位者，只有葉永毅、黃萬里、吳康寧三人。
李文凱在《三門峽工程半個世紀成敗得失》一文中這樣記錄會後的情況——
討論會的情況上報之後，國務院將《報告》批轉給陝西、山西、河南、河北、山東、甘肅等省。陝西省在迴文中提出要求降低水位、縮小規模的建議。數百萬畝即將被淹的良田，近百萬的移民，主要都在陝西省。這幾乎是一個無法接受的“自我犧牲”