杨大眼，武都氐族杨难当的孙子。少年时即骁勇迅捷，走路跳跃如飞。然而，因为他是父亲的小妾生的孩子，因而不被宗亲们看重，不免常常忍受饥寒。太和年间，初出仕被任为奉朝请。孝文帝将要向南讨伐，尚书李冲选拔能征善战的将官，杨大眼请求入选，李冲不同意。杨大眼说：“尚书您不了解我，请允许我献上一种技艺。”便拿一根三丈来长的绳子，系在自己的发髻上迅速奔走，绳子直得就像箭杆一样，马跑都追不上。旁观的人无不惊叹。李冲因而说“：千百年来，没有见到过这样杰出的人才。”便任命他为军主。杨大眼对同僚们说“：今天正是所说的蛟龙得水的时候。自从这次举动，我就不再与诸位同列共事了。”不久，迁任统军，跟随孝文帝征讨宛、叶、穰、邓、九江、钟离等地，每次战斗，无不勇冠全军。
宣武帝初年，南朝官员裴叔业献出寿春向北魏投降，杨大眼与奚康生等率领军队首先驻进寿春，因军功被封为安成县子。任直阁将军，出任为东荆州刺史。此时，蛮人首领樊秀安等人反叛，朝廷命杨大眼为别将，隶属都督李崇讨平了叛乱，他在征讨时立功最多。他的妻子潘氏也善于骑马射箭，亲自到军中探视大眼，打仗和游猎时，她也穿上戎装，与丈夫并马齐驱。回营后，也同丈夫一起坐在军帐中，对着各位同僚和部下，谈笑风生，怡然自得。杨大眼不断指着妻子对大家说“：这是潘将军呀。”
南朝梁武帝派他的将领张惠绍率领军队占据了宿豫。朝廷又任杨大眼为平东将军，作为别将，与都督邢峦打败了南梁军队。又与中山王元英一起围攻钟离。杨大眼率军驻扎在城东，把守淮水上的桥梁，控制东西两边的道路。正值河水泛滥暴涨，他统率的刘神符、公孙祉两支军队夜晚争着过桥奔逃，大眼无法禁止，部队相继逃散。他因此坐罪，降职到营州当普通的士兵。
永平年间，朝廷追念他过去的功勋，起用他为中山内史以试用。这时，高肇奉命征蜀，宣武帝担心南梁的军队会乘虚进犯，便征用杨大眼为太尉长史、持节、假平南将军、东征别将，隶属于都督元遥指挥，在淮河、肥水设防御敌。他回到京师，人们思念他的英雄骁勇，为他的重新被起用高兴，所以，宫廷衙门，大街小巷，来看他的人就像集市那样热闹。后来，梁将康绚在浮山把守淮河防线，想侵犯寿春。魏孝明帝加封大眼为光禄大夫，率领军队镇守荆山，又恢复了他的封地。后来，他与萧宝夤一起攻打淮堰的南军，不能攻克，便在淮水上游开挖渠道，放淮水以阻止敌军，然后退兵。被加封为平东将军。
杨大眼安抚士兵，称他们为儿子。看见他们身上的创伤和疮痍，便心痛得流泪哭泣。自己虽身为将帅，逢战常身先士卒，冲锋在前。前来抵挡的敌人，没有不被他摧垮的。南军派来的将领，对他都很畏惧。当时，传说在淮河、泗水、荆河、沔水之间小孩啼哭，大人便恐吓说“：杨大眼来啦！”没有不止住的。王肃的弟弟王康刚归顺北魏，对大眼说：“在南朝听说您的名字，以为眼像车轮那样大。现在看见你，并不异于常人。”大眼说“：两军对阵，旗鼓相望，怒眼圆睁，意气奋发，足可以使你的眼睛不敢看我，何必像车轮那样大？”当时人们称他的骁勇果敢，比作关羽、张飞也并不过分。然而，进攻淮堰时他却喜怒无常，对士兵鞭打过度，将士颇有怨言。了解他的人认为是他性情改变所引起的。
又出任荆州刺史，常常捆扎草人，给它们穿上青布衣裳用箭射穿。他召来各蛮族首领，指着草人说：“你们如果要做贼寇，我就像这样将你们杀死。”北氵育郡曾有虎为害，杨大眼将它捕获，砍下它的头悬挂在穰城街头。从此，荆州一带的蛮族互相传告说：“杨公十分凶恶，常常将草人做成蛮人的形状用箭射穿。深山里的猛虎也不能幸免于死。”便不敢再为盗贼。在荆州任上二年死去。
杨大眼虽然没读过书，却常叫人读书，他坐在旁边听，都能够记住和理解。所作的文告，都由他口授，而他始终没有认识多少字。