山东水师胜利返航。高丽之事既了，此后只需派出千人队护航，以对付沿途的海盗。由于水师的成本高，消耗大，护航的水军逐次递减，从一千人到八百人，再到六百人，最后固定在四百人。北地河湖港汊不多，北方人大多不习水性，因此水军的规模无法快速扩大。有限的水军要形成战斗力、威摄力，唯有发展火器，火器是未来的发展方向。
然而火器制造不易，火药的供应也很不便。弹药来自西北，用一枚少一枚，需长途跋涉才能接济。为解决火器、弹药问题，西北技师进入山东，在原先炼钢和试制火药之处，开始炼钢、炼铁，生产火器弹药，短期内还出不了成品。
北部海域路程较短，往返较快，补给便捷；南部海域路程较长，往返耗时，补给不便。先安北海，后定南洋，由近而远，是为上策。
金军南侵后，北方混乱，许多地方处于无政府状态，北方海域同样海贼出没，经常打劫渔民和商船。山东水师
南下与赵构的水军争雄，必先肃清北方海域。张荣、徐文因时制宜，制定了剿灭水贼的计划。计划包括二个部分：一、凡提供水贼行踪者，予以重赏；弃恶从善，改投官军者，宽大处理，还可论功行赏。二、以八百人的水师沿渤海、黄海海岸巡弋，搜捕贼寇，见贼杀贼，无贼则报平安；另派几支小股机动部队伪装成商船，引蛇出
，聚而歼之。双管齐下，措施得法，不到二个月的时间里，北方海域已基本平静。北海已平，下一阶段的战略重心是打通南方海道。南方的赵构有水师数万，北运的货物，大多在东海海域被赵构的水军截下。山东水师此番南下，即是讨回公道，保护南面的海上生命线。
1128年八月，张荣率军从海州（江苏连云港）出发，直下崇明，来到长江出海口。张公裕的水师自通州（江苏南通）而来，二军在长江口相会。
张荣派人知会张公裕，北军南来，并非与南军
战，乃是进剿海贼，保护海上通道的安全。自张俊与晁盖达成协议以来，张公裕的水师即已退回长江下游靠海处，在长江和东海之滨练兵巡弋。北军既已表示善意，张公裕也未留难，任其自去。水师继续南下，泊驻浙江外海舟山群岛。苏湖
，天下足，虽然中原战
，浙江还算是富庶的，粮食补给问题不大。此处扼东海要冲，距离江淮后方根据地盐城也比较近，遂决定在此驻足。赵构见北方水师赖在舟山不走，以林之平督浙江水师前来驱赶。徐文与林之平有过一面之缘，乃修书一封与林，意示北军来意无他，唯护粮耳；中原一家，当以大局为重，彼此通好，共御胡虏。林之平复曰：刘中明领军抗击胡寇，令人敬佩。然人各有主，地自有辖，北军在北，南军在南，若是职守不明，统属不分，岂非天下大
。还请张、徐二位大人率兵北还为盼。【宋史本纪：1128六月丁丑，诏江、浙沿
州军练水军，造战舰。1129年二月，监察御史林之平为沿海防托，募海舟守隘。】先给林防托去信，无非先礼后兵。林之平奉赵构之命，谈是谈不拢的了。既然不能相安无事，只有诉诸武力。北方水师先在山东力抗金军，后在高丽打败夷族水师，扬威异域，又在北部海域剿灭水贼，战意高昂，战力极高。江浙水军组建不久，战力甚次。林之平谏阻不成，只好硬着头皮来战。
南方水师与北方水师不在一个档次，这一点林之平心知肚明。经过权衡，只以少量小船过舟山
扰，大部却躲在镇海。林之平是很有一些脑子的，他派出的虽是小船小部队，却锣鼓咚咚，恍如龙州大赛，唯恐别人不懂似的，对上则报称出动大舶巨舰。那些个小
，一触即溃，还不够秦军
牙
，更无需动用火箭火炮了。装模作样打了几仗之后，林之平向赵构上报说，南军奋勇作战，已歼灭秦军若干，还送上一些死囚、海贼的头颅报捷；又说，北军火器厉害，南军的损失也不小，需修整一段时
以利再战。有人向赵构密奏林之平谎报战果，赵构想换过水军将领，可是无人应卯，气得大骂：“说林御使畏敌不前，
堂聒噪，让你们去领水军，替本王分忧，却无一人敢当此任，通通给我闭嘴！”赵构身边小人得志，贤臣能吏常常受挤兑，争功诿过者多，而敢挑重任者寡。金军遇上秦军，尚且铩羽而去，南军焉能与抗。去舟山驱敌，那不是活得不耐烦了么。既然无人接任，林之平仍当他的沿海防托，与张荣的水师继续演戏一般。有了山东水师作后盾，南方的水军大为收敛，不敢再动商船的脑筋。有的为了向赵构复命，明里扣了商船，暗地里又放走。扣押商船，本就不得人心，何况这些物资大多来自吕宋（菲律宾）、安南（越南）、暹罗（泰国），大家存着多一事不如少一事的心思，能放就放，能避就避。赵构忙于剿灭叛贼，无法
出更多的精力应付海上，北军未从江南捞走东西，且缓他一缓，等剿灭贼之后，再来算账。河朔之地，有了水陆二厢运输通道，其中二条是海道，二条是陆道，对金作战有了物质保障。徐文护送一批商船北上，张荣则仍然驻扎在舟山。这批物资到了山东、河北，咱们的总攻也差不多开始了吧。张荣如是猜想。
1128年九月，徐文护送物资进了山东的码头，接到帅营通知，让张荣的水师回山东，随时作好进兵的准备。张荣、徐文接令，难抑心中的激动，这一天终于来了。