他先是主动请缨运送粮草，然后以各种理由故意放慢速度，目的是让隋军在辽东战场上断粮挨饿。接着，他忽悠运送粮草的士兵一同反隋。在此期间，李密成了他的军师，并且制定了上、中、下三条策略：

上策：北据幽州，断掉隋炀帝回家的后路，待其断绝粮草、撤军路过时便可将其控制。

中策：西入长安，直取关中。因为关中地区易守难攻，又是关陇集团的大本营。占领此地也能与隋炀帝一决雌雄。

下策：就近攻打东都洛阳。但必须速战速决，趁着援军抵达之前将其拿下，否则将会面临被包围的局面。

当时的文武百官都在跟随皇帝远征，杨玄感认为文武百官的家属都在洛阳城内。控制了洛阳就是控制了文武百官，到时便可架空隋炀帝。

于是他选择了下策，率领5000兵马直奔洛阳。当时的百姓对隋朝已经心生不满，杨玄感在行军途中得到了人们的大力支持，并且有众多百姓自愿加入。短短几日，便有10万之众。

身在关中的刑部尚书樊子盖不敢怠慢，于是率领几万士兵进行拦截，还在途中扒了杨素的坟墓，并把尸骨烧成灰烬，以此打击杨玄感。

杨玄感在愤怒之下亲自迎战樊子盖，然后假装败逃，樊子盖以为真，进行追击，结果遭遇杨玄感的伏兵，先锋部队全被消灭。几日之后，两方军队再次交战。

杨玄感这次又施计策，派人在混乱之中大呼“杨玄感被捉”，樊子盖听后一脸懵逼，松懈了战斗。

杨玄感于是率领几千骑兵乘机进攻，一通乱杀，樊子盖军又是大败，仅带领8000人马逃走。

杨玄感因此战的勇猛被人誉为“霸王在世”。隋炀帝得知杨玄感造反之后，本准备趁着优势向辽东城发动总攻，结果又传来大败的消息。隋炀帝于是下令放弃所有物资和器械，以最快的速度回师洛阳。

杨玄感的名气越来越大，他不仅学习着霸王的勇猛，而且还走起了项羽的老路。当时一位名叫李子雄的隋朝将领前去投奔杨玄感，建议他自立为帝。

李密听后立即进行反对，因为之前的几场战斗已经拖延了工程时机，现在各地援军正在赶来。

当下之急应该避免遭遇围攻，不应考虑称帝之事。然而，杨玄感对此非常不满，李子雄因此成了新任军师。

正如李密所料，各方援军已经快要兵临城下，杨玄感这才感到惧怕。李子雄则提出了前往关中之策。

这一策略其实就是李密之前给出的中策，但杨玄感却偏离了直取的重点，居然在途中打起了其他地区。李密劝他应该赶紧抢占天险，以免追兵追来无处藏身，但杨玄感不听。

结果被弘农太守击败，直到追兵追来，他才恍然醒悟。杨玄感且战且退，最终还是全军覆没。

他为了不受敌人的侮辱，让弟弟杀了自己。杨玄感一生仰天长啸，吓退了数名追兵，之后死在了弟弟的刀下。这种英雄的悲壮与项羽之死如出一辙。

他的首级被送到隋炀帝的行宫，其尸身被暴晒三日，又被分成多块，最后投入烈火之中化为灰烬。

根据《隋书》和《唐六典》的记载，杨玄感被诛九族，成为了唯一被明确记载的诛九族的人物。