趙彥徽、趙匡胤同為周世宗屬將，趙匡胤曾拜他為兄。陳橋兵變，殿前都指揮使石守信、侍衛親軍馬軍都指揮使高懷德、侍衛親軍步軍都指揮使張令鐸、殿前都虞候王審琦、虎捷右廂都虞候張光翰、龍捷右廂部指揮使趙彥徽六人為首擁立趙匡胤黃袍加身，建立北宋。趙彥徽自虎（龍）捷右廂都指揮使、岳州（今屬湖南，時屬湖南割據的武平節度使）防禦使，轉為武信（遂州，今四川遂寧，時屬後蜀）節度使、步軍都指揮使。建隆元年（960年）五月，宋太祖為直接掌握侍衛親軍司的兵權，在平定潞州李筠之後，趙彥徽與張光翰首先被罷軍職，解除他們的兵權，趙彥徽的軍職為羅彥瓌所接替，張光翰為韓重贇接替。

趙彥徽改為建雄軍（晉州，今山西臨汾）節度使。乾德元年（963年）十二月，宋太祖遣內容省使曹彬、通事舍人王繼筠分詣晉州、潞州，與節度使趙彥徽、李繼勛會兵入北漢境，攻其邊邑及遼州、石州。趙彥徽在晉州不恤民事，專務聚斂，私帑所藏鉅萬，宋太祖雖然知道，但沒有對他懲戒。趙彥徽入朝，宋太祖設宴款待，因飲酒過度得病，送回晉州，開寶元年（968年）五月，病故。