杜伏威是齐郡章丘县人,年轻时潦倒失意,因为不能养活自己,经常穿壁翻墙偷东西。后来有人告发了他们偷盗的事倩。郡县紧急追捕他们,杜伏威与辅公祏一起逃命,聚集了一帮人组成强盗集团,他当时年仅十六岁。
两人就近参加了一只小起义军,刚加入时只是小卒,但杜伏威十分勇猛,出则居前,入则殿后,很快就取得了大家的尊敬和信任,被推为首领。江淮一带隋朝的力量比较强大,杜伏威意识到自己的小部队实力太弱,如果不尽快壮大就根本无法生存,于是努力寻找机会去联合和吞并附近的其他起义军。
实力大增后,杜伏威自称将军,纵横淮南,屯并六合,威胁江都,江都留守派校尉宋颢前来镇压,杜伏威用计将其引入芦苇荡中,放火将其烧死,不久又屠安宜城。并控制了江都附近的六合县作为根据地。与此同时,左才相往来淮北,李子通占据海陵,都有数万兵力,江淮一带即以这三家起义军为首。后来隋炀帝杨广来到江都,杜伏威打败隋朝大将陈陵,杜伏威趁势占据了高邮、历阳等重镇,并在历阳自称总管
每次战胜,杜伏威都把缴获到的资财赏给全军,因此杜所部皆为杜伏威尽死力,人自为战,所向无敌。杜伏威号令所到之处,江淮间各路小起义军争相归附,郡县纷纷投降。
随着势力和地盘的增长,投靠杜伏威的人越来越多了,杜伏威放弃了以前的流寇式战术,开始努力经营自己的地盘。由于本身就深受赋税之苦,杜对领地内只收很低的赋税,同时,杀死贪官污吏,得到了人民的支持。
公元618年,,宇文化及在江都兵变,弑杀随帝杨广,委任杜伏威为历阳太守,杜伏威没有接受。同年,向东都洛阳的越王杨侗称臣,被封为楚王,拜东道大总管。
后来,杜伏威打败李子、沈双占据江淮。李渊派出使者向杜伏威招降,杜伏威就于公元619年宣布归降唐朝,受封为淮南安抚大使,后来又逐步升官到东南道行台、尚书令、楚王。消灭李子通后,杜伏威又派王雄诞进攻江淮间其他独立势力。这时杜已是江淮霸主,武德三年,公元620年,升级为总管江淮以南诸军事、吴王,赐姓李。
其老板李渊更已经消灭大敌王世充、窦建德,天下大势已定,因此各势力如汪华、闻人遂安等纷纷投降,杜伏威完成了江淮的统一,尽有淮南、江东之地,江西之地尽为杜伏威所有,富有半壁江山。
当时李唐的势力还远未达到一统天下之势,比杜伏威也强不了多少,其老巢太原正被刘武周猛攻,河北窦建德、河南王世充也正在蚕食唐朝的地盘,别说统一,连李渊自己的生死都还是未知之数。杜伏威在此时降唐,对唐王朝来说,无异于如虎添翼。
后来,杜伏威为了与李渊之间免生嫌疑,自请入朝。杜伏威的主动献忠心让李渊很是满意,同时也是为了在天下人面前做个样子,李渊加封杜为太子太保,位在齐王元吉之上(仅次于李渊、李建成、李世民三人,为大唐第四号人物)。
武德六年(623年),杜伏威的旧部造反,杜伏威在长安的日子自然可以想象,史书上没有记载李渊是否因此而怪罪或处分杜伏威。武德七年(624年)二月,杜伏威在长安暴卒,死因不明。李渊动手剥夺了杜伏威的官职爵位并籍没其家眷。
唐太宗李世民登基后,知道杜伏威惨遭诬陷,为他平反恢复名誉,以国公之礼下葬杜伏威。