事时，将蔡佑招为己用，后来宇文泰任夏州（统万城）刺史时，蔡佑已是其帐下都督。
关西大都督贺拔岳（宇文泰的老上级）被侯莫陈悦所害后，贺拔岳的众将在平凉推举宇文泰作为新领袖；派遣使者杜朔周到夏州迎接宇文泰，夏州当地的望族弥姐元进等有异心，蔡佑果断的将其斩于帐下，稳定了军心，因此得到了宇文泰的器重，被收为义子，从此跟随宇文泰征讨侯莫陈悦，迎魏孝武帝入关，与东魏的小关之战，弘农之战，沙苑之战，皆有战功，在与东魏的河桥之战中，两军军阵庞大；首尾交错相连；又恰逢大雾笼罩了战场；双方部队顿时陷入了混战之中；蔡佑此时官至平东将军，下马步战，手刃数人，部下力劝他上马，以防备敌人突袭，蔡佑大怒，呵斥道：“宇文丞相待我如子，今天怎么能够考虑自己的性命！”然后带领十多个部下，大声呼喊着杀敌，给予敌人重大损伤，敌军看他人少，重重围困住他们，蔡佑弯弓搭箭，和敌兵对峙，自己岿然不动，形势千钧一发；东魏兵不敢进逼，招穿重甲持长刀者进击，离蔡佑三十步时，部下都劝他赶快放箭射敌，蔡佑说：“我们的性命，就在这一箭了，怎能虚发！”敌人只有十步时，蔡佑方才射出箭去，正中敌人面部，敌人应弦而倒，其余敌军则吓的忽喇喇向后散开，稍稍退后，蔡佑趁机突围，引众人安然退走。此战西魏军失利，宇文泰引军西还，蔡佑退到弘农，在晚上和宇文泰相遇，宇文泰见到他高兴的说：“承先，你来了，我无忧矣”。这次战役的惨烈使得久经战阵的宇文泰都心惊不已，夜里睡不着，只有枕在蔡佑的大腿上才安下心来，两人关系之亲密可见一斑。在几年后东西魏的邙山之战中，蔡佑身穿明光铁铠，奋勇当先，所向披靡，敌人非常害怕，互相告诫：“此是铁猛兽也。”，东魏兵遇到他都纷纷跑开躲闪，惟恐被他所伤，“铁猛兽”成为最令东魏军恐怖的名字，蔡佑之勇猛威震敌胆。
蔡佑作战常常身先士卒，冲锋陷阵，往往大军返回后，众将都争相邀功，蔡佑却不与他人竞，独坐一旁，颇有汉大树将军之风，宇文泰常赞叹不已，对诸将说：“承先口不言勋，孤当代其论叙。”两人相知至此。
此后，他的地位不断升高，从原州刺史一直到大将军、开府仪同三司、侍中，进爵怀宁郡公，并被赐予鲜卑姓大利稽氏，汉人将领被赐鲜卑贵族姓氏，这在当时是非常荣耀的事情，唐朝先祖李虎曾被赐予大野氏，隋朝先祖杨忠也曾被赐予普六茹氏。南梁的江陵刚刚归附时，当地各种势力反叛，宇文泰派蔡佑与大将军豆卢宁征讨，顺利的平息了叛乱。
宇文泰病重期间，蔡佑和宇文护（宇文泰侄儿），贺兰祥（宇文泰外甥）等一同服侍宇文泰，足见宇文泰将他视如己出，特加亲信，丝毫不逊于侄甥。宇文泰死后，蔡佑悲痛欲绝，因气急伤了身体，从此落下了病根，他对宇文泰的感情实在是超出一般父子之上。宇文护受宇文泰托孤，废掉了西魏皇帝，辅佐宇文觉（宇文泰嫡长子）登上天王之位；建立了北周王朝，自己继任大冢宰，位总百揆，控制军国大政，蔡佑和尉迟纲（宇文泰外甥）同掌禁兵，宿卫宫廷，与宇文泰的子侄们保持了良好的关系，北周虽然建立，但宇文护独掌军政大权，跋扈非常，宇文觉渐渐不满宇文护专权，想要除掉他，但宇文觉此时刚刚即位不久；年龄才十五六岁；根本就没有什么实力和宇文护抗衡；蔡佑常常哭着劝阻，宇文觉不听，终为宇文护所废。继位的北周明帝宇文毓（宇文泰庶长子）为公子时，与蔡佑特别友善，即位后，对蔡佑恩宠一天天增加，蔡佑常常借病躲避，不愿卷入政治旋涡之中，宇文毓天生聪颖；喜好文学；礼贤下士；爱护子