李俊是庐州人氏，在扬子江中做撑船梢公，还与出洞蛟童威、翻江蜃童猛一同贩卖私盐。因精通水性，人称混江龙。他和催命判官李立同霸揭阳岭，与揭阳镇穆弘兄弟、浔阳江张横兄弟合称揭阳三霸。
原著中宋江刺配江州时，途经揭阳岭。李俊听闻消息，便与童家兄弟在岭下等候，却与宋江错过。宋江在李立的酒店里吃酒，却被李立用蒙汗药麻翻，险遭杀害。
李俊久候不至，返回岭上寻找李立，恰遇李立要宰杀宋江，便将宋江救下。宋江到李俊家中小住，还与他结为兄弟。
宋江离开揭阳岭后，在揭阳镇打赏病大虫薛永，得罪了穆弘兄弟，被穆家兄弟率庄客追至浔阳江边。他情急之下，又上了船火儿张横的黑船。张横将船驶至江心，要夺宋江的财物，并逼他跳江。李俊恰巧撑船碰见，再一次救下宋江。宋江与张横、穆弘等人化敌为友。宋江在江州题反诗，遭黄文炳告发，与戴宗被判斩首，却被李逵以及梁山泊十七位头领劫法场救出。李俊与张横、穆弘等九人也驾船赶赴江州，要救宋江，却在江边白龙庙与宋江等人相遇，一行二十九人便在白龙庙聚会。而后攻打无为军，李俊协助张顺生擒黄文炳。
而后李俊等人同上梁山，上山后，他与李逵一同镇守山前旱寨。后随梁山大军征祝家庄、高唐州、青州、华州。宋江成为梁山首领时，重新调整将佐职责。李俊改镇水军寨，并在水军头领中位居第一。二打大名府时，李俊与张顺出战诱敌，将索超诱至陷坑，使得索超被梁山擒获。梁山排座次时，李俊排第二十六位，星号天寿星，是水军头领第一位，与阮小二一同把守东南水寨。三败高俅时，梁山水军大显神威。李俊擒杀金陵水军统制官刘梦龙，又与张横合擒京北弘农节度使王文德。
梁山受招安后，李俊随宋江南征北战，屡立战功。
征讨辽国时，李俊率领水军夺取檀州水门，协助宋军攻占檀州。后辅佐赵枢密，留守檀州。
征讨田虎时，李俊随关胜连破榆社、大谷等县。他听闻卢俊义攻太原不下，便辞别关胜，冒雨驰赴卢俊义军中，进献水攻之计，掘开智伯渠，水灌太原。太原城被大水淹没后，李俊率水军乘飞江、天浮，夺取四处城门，只杀得城中“鸡犬不闻，尸骸山积”。
征讨王庆时，李俊率水军大战瞿塘峡，杀死水军都督闻人世崇，义释副将胡俊，夺取云安州，斩杀留守施俊，后又和童家兄弟扮做渔人，埋伏在清江边上，生擒寇首王庆。他在胡俊的协助下，招降东川、安德，使得“农不离其田业，贾不离其肆宅”，在平淮西之战中功居第一。
平定淮西后，梁山军班师回朝，驻扎在东京城外。朝廷却颁下诏令，禁止诸将擅自入城，梁山诸将尽有怨言。李俊与三阮、二张等水军头领去请军师吴用做主，表示要劫掠东京，复回梁山泊落草。但吴用却不敢主张，李俊等人只得作罢。
征讨方腊时，李俊率水军收复江阴、太仓，并与童威、童猛到太湖侦察，在榆柳庄与费保、倪云、卜青、狄成四人结义，后协助宋江攻占苏州，斩杀飞水大将军昌盛。宋江取杭州，李俊率军攻打靠湖门，与石秀率先登城，合擒守将吴值。后来，李俊又率水军头领到清溪城中诈降，被方腊封为水军都总管，而后在城中纵火，协助大军破城，最终平定方腊之乱。
平定江南后，李俊随大军班师。他行至苏州时，诈称中风，要求留下童威、童猛看视，让宋江先行回朝。宋江怕耽误行期，只得留下李俊三人，自率大军回京朝觐。宋江走后，李俊依照旧约，与童家兄弟前往榆柳庄，寻找费保四人，打造船只，从太仓港出海，投化外国而去，最终成为暹罗国之主。
说起李俊，很多人的第一印象就是此人乃是梁山水军老大、古泰国国王。更有一些人认为李俊成为梁山水军老大全是宋江的扶持，主要作用是平衡派系。
其实不然，李俊能称为水军老大，也是有原因的。
首先很重要的一点，就是长相问题。
“眉浓眼大面皮红，髭须垂铁线，语话若铜钟。凛凛身躯长八尺，能挥利剑霜锋，冲波跃浪立奇功。”
总说不能以貌取人，可实际上呢，因为颜值而上位的人自古以来都不在少数。哪怕是放在现在的社会，颜值也是一个人很重要的属性之一，颜值高的人，先天就比颜值低的人有一定优势吗，起码在第一印象方面，颜值高的人是百分之百会占便宜的。再看梁山，原著中宋江其实也是个以貌取人的人，就他宋江本人，一个十足的矬子，还不是配个样貌伟岸的卢俊义来做副统帅？宋江这个人就喜欢帅哥，吕方、郭盛、孔明、孔亮、花荣等等哪个颜值不高？
相比其他几位水军统领，张横和三阮凶神恶煞、童威童猛不入流，张顺倒是白净，但是太矮了，身高之后六尺五。
作为梁山水军的老大，即便只是个形象问题，也必须是李俊！
其次就是社会阅历的问题，李俊以前是在扬子江当艄公的，后来到了浔阳江贩卖私盐，又和朋友在山东济州做生意，可见交往十分广泛。不像三阮只是石碣村的小渔民，张横一个人在浔阳江自嗨。在梁山水军所有头领中，李俊的社交和社会阅历是最广的。阅历的背后，就是职业的特殊性。李俊是干啥的？贩卖私盐，这个职业可不能小瞧。相比张顺这个渔霸，张横这个船霸，三阮这三位渔民，李俊的职业体面多了。贩卖私盐利润非常高，但其本身是违法的，这需要同时和官府、黑道来斗，没有超凡的胆识和灵活的头脑，根本是干不来的。
马军的老大是关胜，步军的老大是鲁智深。
一位是曾经的将军，一位是过去的提辖，水军老大让个农民来做，不现实。
最后是重点——李俊在梁山没亲戚！
相比这点，上边几点几乎是白说。自古以来，立长和立贤总是无解的，无论你选择哪一样，你放心，总会出事儿。张横张顺就没法选，张横是哥哥，但论对水军的重要性以及个人水平，张顺更强。阮氏三雄也没法选，相比阮小二和阮小五，阮小七的个人魅力更强，也更有领导能力。因为李俊没亲戚，举人不避亲不存在，几乎所有的水军统领、揭阳岭势力都在向李俊靠拢。从极强的个体，最后成为了最明智的社群。
因此，以上几点才是李俊最后能成大事的基础，至于性格、武艺、三救宋江等等，其实都是浮云而已。
至于说他的武功，其实说实话并不是有多么强，论水下的功夫，他不但比不上浪里白条李顺，甚至比不上阮氏三雄，论凶狠程度，他也不及阮氏三兄弟，论对梁山的贡献，李俊更不是那种冲杀一线的人，在一线贡献最多的人还是李顺和阮氏三雄。所以可能在其他人身上，功夫是很重要的晋身条件，但对于李俊来说，他自身的其他能力反倒更加重要。
除了李俊以外，揭阳岭周围的好汉还有好几个，穆弘、穆春、张横、张顺、童威、童猛以及李立。
这其中，穆弘是江州揭阳镇人氏，出身富户，武艺高强，性情暴烈，人称没遮拦。
江州揭阳一带有三霸，揭阳岭上以李俊、李立为一霸，浔阳江中以张横、张顺为一霸，而揭阳镇上则以穆弘与兄弟穆春为一霸。
穆弘兄弟在镇上横行霸道，连官府都头都受其支配。二人曾规定，外地人若想在镇上谋生，必须先到穆家庄拜谒。
张横张顺兄弟到没有穆弘穆春兄弟那么霸道，张顺在江州做卖鱼牙子，张横则独自在江边摆渡做私商。
童威童猛则是跟着李俊一起，以贩卖私盐为生。
而李立呢，没有和他的兄弟一起在水上讨生活，或者说，他的主要工作不是水上工作，而是在揭阳岭经营一家酒店，常用蒙汗药麻倒客人，继而谋财害命，所以人称催命判官。
这四对兄弟，全都是水中的好手，如果能得到他们的加入，那对于梁山来说绝对是巨大的增强，如今梁山已有阮氏三雄的，但只靠阮氏三雄是不行的。而且说实话，为什么李俊很重要？因为李俊的大局观比其他人都要好，阮氏三雄实力强，但他们没能力掌控整个舰队，如果曹岩要带着梁山众人去海外图谋发展的话，李俊是最为重要的。除了李俊，其他人也很重要，以李俊为首，其他人为辅，建立梁山自己的舰队，进而沿着水泊河道进入黄河主流，最后从黄河口出海，直接东渡即可到达日本，这就是曹岩现阶段的计划，而这个计划里，李俊绝对是不可或缺的人物。
所以在整顿完梁山上的事情后，他第一时间就带着扈三娘和时迁，一起前往江州。