就在隋朝处在这样一个四面楚歌的境地时，杨坚的头脑非常清醒，至少趁突厥和来自东北的高宝宁还没有太大规模的动作之前，先清除来自另外两方势力的威胁才是上之上策，亦是当务之急。隋和南陈，一南一北，对双方来说，有一处非常重要的地方既是屏障，也是王朝安危的底线——长江天险。笔者于上文讲过，因为有长江的存在，不善水战的隋军不敢贸然南下，如果长江打不下来，无异于对国力无谓的浪费；同样的道理，不善陆战的陈军即便渡过了长江北上，也不敢贸然深入隋朝腹地。但长江天险的告急，对双方来说都是一个危险的信号，从陈的利益来看，没有了长江，来自北方大漠的铁骑就可以一马平川，直捣首都建康（今江苏省南京市）；从隋的利益来看，南方的军队渡过长江后，如果形成了心理上的优势，那么自己将很难取胜，并且北方少数民族势力盘根错杂，隋一退再退，能退到哪儿去？实际上没有多少退路可走。在这样的情况下，隋朝对陈保持着一个非常微妙的态度，笔者将其总结为十六个字——攻守兼备，以守为先，忍让示弱，主打反击。既然是“攻守兼备，以守为先”，那么就必然有人负责守有人负责攻。隋文帝杨坚派了两个人负责守，这两个人可谓是隋朝乃至中**事史上最有名的大将，一个是韩擒虎，一个是贺若弼。韩擒虎守庐江（今属安徽省合肥市），贺若弼守广陵（今属江苏省扬州市），这两个地方都在长江中下游地区，韩擒虎和贺若弼两人，就好像两把尖刀，正好死死抵住了南陈最有力的地方，扼其咽喉。在这里，笔者需要指出，在《隋书·文帝上》中记载贺若弼担任的是楚州总管，而在《隋书·贺若弼传》以及《资治通鉴》中皆记为吴州总管，仍守广陵。这处不同是笔者阅读韩昇老师《隋文帝传》时得到的启示，韩昇老师指出《隋书·文帝上》的记载或为一误，因此他仍采用《隋书·贺若弼传》以及《资治通鉴》的说法进行编写。笔者同意韩昇老师的选择，但是韩昇老师没有在书中进一步给出这样选择的理由，因此笔者可以讲一下自己对这个问题的看法。首先，我们从史书编写者和阅读者的角度出发，《隋书》和《资治通鉴》都属于官修史书，《隋书·文帝上》和《隋书·贺若弼传》中出现了不同的**，而《资治通鉴》则采用了和《隋书·贺若弼传》一样的说法，在这样的情况下我们显然更愿意去相信出现次数多的史料内容。其次，如果贺若弼真的为楚州总管，那么就会存在一个战略上的小疑点。楚州大致在今天江苏省的淮安市。杨坚将两员最为勇猛的上将安排在南方，目的就是让他们防卫南陈，换句话说，是防卫长江天险。韩擒虎的防区是庐江，属于今天的安徽省合肥市，在长江边，问题不大；但如果贺若弼的防区是在楚州，也就是属于今天江苏省淮安市的话，很显然离长江太远了，从今天的水系角度来看，我们常把庐江划归长江水系，而淮安就属于淮河水系了，所以贺若弼如果镇守楚州，应当不是一个好的战略选择，这二人对陈军的牵引作用也就不会那么明显了。实际上韩擒虎和贺若弼在以后的平陈战争中起到的作用更大，此为后话，我们留到后文慢慢讲。
与此同时，杨坚一再强调南方沿线诸将源雄、梁睿、元孝矩等人不许贸然进攻，他的思路很清晰，如果隋贸然过江攻陈，一来胜负难料，空费国力；二来突厥、吐谷浑等少数民族就有了可乘之机；三来面对陈的骚扰，隋如果进行大规模反击，恰恰说明自己内心的担忧与恐惧，反之如果隋能够面对陈的骚扰做出一副不理不睬、“十分高冷”的样子的话，则会在心理上给陈以压迫，反而使其畏首畏尾，用《隋书·元孝矩传》中的话来讲叫做：“怀柔以礼”。杨坚一而再、再而三地保持隐忍退让的态度，反而让隋军获得了更大的自信心，斗志更加旺盛。就在这时，杨坚下达了反击的命令，源雄、贺若弼以及杨坚派来的大将长孙览和元景山四路齐出，打了南陈一个措手不及，收复之前被南陈侵占的以及三方叛乱时司马消难兵败归附陈朝后裹挟进来的大片失地。南陈蠢蠢欲动的问题得到解决。
没过多久，西北战场也传来捷报：元谐将军大败吐谷浑，斩敌数万。我们在讲到《开皇律》的编写人员时提到过元谐这个人。元谐是个武将，《隋书·元谐传》记载他：“性豪侠，有气调”，并且元谐和杨坚还曾有过同窗之谊。此次吐谷浑兵犯凉州（今甘肃省武威市），元谐率贺娄子干、郭竣、元浩兵发迎击。临行，杨坚特地嘱托元谐：
公受朝寄，总兵西下，本欲自宁疆境，保全梨庶，非是贪无用之地，害荒服之民。王者之师，意在仁义。浑贼若至界首者，公宜晓示以德，临之以教，谁敢不服也！
这道敕令不难理解，总的来说杨坚希望元谐对吐谷浑的战斗与源雄、贺若弼、长孙览、元景山几人对南陈的战斗一样，首先要把自己置于道德的高地