事時，將蔡佑招為己用，後來宇文泰任夏州（統萬城）刺史時，蔡佑已是其帳下都督。
關西大都督賀拔嶽（宇文泰的老上級）被侯莫陳悅所害後，賀拔嶽的眾將在平涼推舉宇文泰作為新領袖；派遣使者杜朔周到夏州迎接宇文泰，夏州當地的望族彌姐元進等有異心，蔡佑果斷的將其斬於帳下，穩定了軍心，因此得到了宇文泰的器重，被收為義子，從此跟隨宇文泰征討侯莫陳悅，迎魏孝武帝入關，與東魏的小關之戰，弘農之戰，沙苑之戰，皆有戰功，在與東魏的河橋之戰中，兩軍軍陣龐大；首尾交錯相連；又恰逢大霧籠罩了戰場；雙方部隊頓時陷入了混戰之中；蔡佑此時官至平東將軍，下馬步戰，手刃數人，部下力勸他上馬，以防備敵人突襲，蔡佑大怒，呵斥道：“宇文丞相待我如子，今天怎麼能夠考慮自己的性命！”然後帶領十多個部下，大聲呼喊著殺敵，給予敵人重大損傷，敵軍看他人少，重重圍困住他們，蔡佑彎弓搭箭，和敵兵對峙，自己巋然不動，形勢千鈞一髮；東魏兵不敢進逼，招穿重甲持長刀者進擊，離蔡佑三十步時，部下都勸他趕快放箭射敵，蔡佑說：“我們的性命，就在這一箭了，怎能虛發！”敵人只有十步時，蔡佑方才射出箭去，正中敵人面部，敵人應弦而倒，其餘敵軍則嚇的忽喇喇向後散開，稍稍退後，蔡佑趁機突圍，引眾人安然退走。此戰西魏軍失利，宇文泰引軍西還，蔡佑退到弘農，在晚上和宇文泰相遇，宇文泰見到他高興的說：“承先，你來了，我無憂矣”。這次戰役的慘烈使得久經戰陣的宇文泰都心驚不已，夜裡睡不著，只有枕在蔡佑的大腿上才安下心來，兩人關係之親密可見一斑。在幾年後東西魏的邙山之戰中，蔡佑身穿明光鐵鎧，奮勇當先，所向披靡，敵人非常害怕，互相告誡：“此是鐵猛獸也。”，東魏兵遇到他都紛紛跑開躲閃，惟恐被他所傷，“鐵猛獸”成為最令東魏軍恐怖的名字，蔡佑之勇猛威震敵膽。
蔡佑作戰常常身先士卒，衝鋒陷陣，往往大軍返回後，眾將都爭相邀功，蔡佑卻不與他人競，獨坐一旁，頗有漢大樹將軍之風，宇文泰常讚歎不已，對諸將說：“承先口不言勳，孤當代其論敘。”兩人相知至此。
此後，他的地位不斷升高，從原州刺史一直到大將軍、開府儀同三司、侍中，進爵懷寧郡公，並被賜予鮮卑姓大利稽氏，漢人將領被賜鮮卑貴族姓氏，這在當時是非常榮耀的事情，唐朝先祖李虎曾被賜予大野氏，隋朝先祖楊忠也曾被賜予普六茹氏。南梁的江陵剛剛歸附時，當地各種勢力反叛，宇文泰派蔡佑與大將軍豆盧寧征討，順利的平息了叛亂。
宇文泰病重期間，蔡佑和宇文護（宇文泰侄兒），賀蘭祥（宇文泰外甥）等一同服侍宇文泰，足見宇文泰將他視如己出，特加親信，絲毫不遜於侄甥。宇文泰死後，蔡佑悲痛欲絕，因氣急傷了身體，從此落下了病根，他對宇文泰的感情實在是超出一般父子之上。宇文護受宇文泰託孤，廢掉了西魏皇帝，輔佐宇文覺（宇文泰嫡長子）登上天王之位；建立了北周王朝，自己繼任大冢宰，位總百揆，控制軍國大政，蔡佑和尉遲綱（宇文泰外甥）同掌禁兵，宿衛宮廷，與宇文泰的子侄們保持了良好的關係，北周雖然建立，但宇文護獨掌軍政大權，跋扈非常，宇文覺漸漸不滿宇文護專權，想要除掉他，但宇文覺此時剛剛即位不久；年齡才十五六歲；根本就沒有什麼實力和宇文護抗衡；蔡佑常常哭著勸阻，宇文覺不聽，終為宇文護所廢。繼位的北周明帝宇文毓（宇文泰庶長子）為公子時，與蔡佑特別友善，即位後，對蔡佑恩寵一天天增加，蔡佑常常借病躲避，不願捲入政治旋渦之中，宇文毓天生聰穎；喜好文學；禮賢下士；愛護子