杨忠出身于中原五大姓氏之一的弘农杨氏。
525年，18岁的杨忠游览天下时，经过泰山，便登山拜谒秦始皇故迹。
不巧，南梁军队攻占兖州，杨忠被掳到建康，加入梁军。
529年，南梁皇帝萧衍派陈庆之护送北海王元颢，一路打进洛阳，称帝。
杨忠因为武功高强，又是北方老乡，被元颢挑选为侍卫之一，跟随回到洛阳。
同年，元颢兵败被杀，杨忠投降到北魏太尉尔朱度律麾下，担任统军。
尔朱家族式微后，杨忠成为独孤信的手下，一同追随贺拔胜。
534年，孝武帝元修与高欢决裂时，杨忠随独孤信一起，作为元修的铁杆卫队，护送皇帝西迁长安城，升任安西将军，封侯。
同年，杨忠奉命攻破东魏荆州治所穰城，杀死刺史辛纂。
在遭到东魏军包围后，杨忠突围逃到南梁，与前阵子逃到南梁的独孤信会合。
537年，杨忠与独孤信一起回到长安，杨忠受到宇文泰欣赏，被留在他身边担任侍卫长。
同年，杨忠随宇文泰参加沙苑之战，亲手捉拿高欢手下头号战将窦泰，升征西将军，封襄城县公。
在538年的河桥之战中，杨忠因公授左光禄大夫、云州刺史。不久改任洛州刺史。
543年的邙山之战中，杨忠任大都督。不久升车骑大将军、仪同三司、散骑常侍。
后来因功升侍中、骠骑大将军、开府仪同三司、朔州刺史，都督朔、燕、显、尉四州诸军事。
550年，杨忠升柱国大将军。
559年，晋爵随国公。
562年，升大司空。
568年，杨忠病逝。
杨忠有五个儿子，分别是杨坚、杨整、杨瓒、杨嵩、杨爽。
长子杨坚出生于541年，555年被授散骑常侍、车骑大将军、仪同三司，封纪县公。
556年，迁骠骑大将军，加开府仪同三司。
559年，明帝宇文毓授杨坚右小宫伯，成为禁卫军统领之一。封大兴郡公。
560年，武帝宇文邕即位，对杨坚很是拉拢，升他为大将军，委任他为随州刺史。
宇文护对于被宇文邕拉拢、而与自己疏远之人，总是想法子铲除。
杨坚多次遭到暗算。
幸好杨坚身边有武功高强、头脑灵活的兄弟二人：侯伏、侯寿。
在他们的精心保护之下，杨坚总能化险为夷。
568年8月，父亲杨忠去世，杨坚袭爵随国公。
宇文邕诛杀宇文护，掌控实权后，打算重用杨坚，询问身边亲信对杨坚看法。
齐王宇文宪表示：杨坚面相很是不凡，我每次见到他都有点怕。这种人不会甘于久居人下，应该早点除掉他。
宇文邕打算把杨坚妹妹杨丽华娉为皇太子宇文赟妃子，高级幕僚王轨谏言道：杨坚有反相，若是他成了太子的大舅哥，对国家政权很危险。
宇文宪、王轨的话传到杨坚耳里，他非常吃惊，同时严格约束自己：低调、再低调。
此后，杨坚韬光养晦，尽量不抛头露面，绝不出风头。
一年后（573年），杨坚妹妹杨丽华嫁给太子宇文赟，成为太子妃。