曹操迎奉天子并讨伐袁术后，力量急剧增长，与吕布的差距愈发明显。
过去，依靠并州狼骑和陷阵营的英勇，吕布尚能与曹操打得难解难分；但现在面对曹操大军，吕布的军队几乎是一触即溃。
大约五分之一的将领很快选择投降曹操，剩下的大部分人心惶惶。
迷茫的张辽在这场纷争中真正找到了他的明主——曹操。
曹操强大的攻势使得曹吕双方的胜负愈发悬殊。
思索良久后，吕布决定将全部兵力集结在下邳附近，他以为曹军会如几年前一样，因粮草短缺最终被迫撤退。
然而，现实狠狠地给了他一个回击。
曹军如今拥有了淮南的广袤领土，短时间内不再为粮草发愁。
再加上去年兖州由于屯田计划的成功实施迎来了丰收年，曹军的补给异常充足，足以支持长达一年的围城战。
探明了敌方虚实后，张辽与高顺立即向吕布进言，建议放弃固守下邳的战略，但此时吕布已经刚愎自用到了极致，他认为曹操即便在这几年间变得强大了，但仍不可能在一战中消灭像他这样的勇士。
因此，吕布驳回了张辽和高顺的建议，并坚定地向全军下达了固守下邳的命令。
其他各城池在接收到调令后迅速向南撤往了下邳，但也有些人看出了吕布的本质选择投诚于曹操。
只用了二十天的时间，曹军便迅速占领了徐州九郡除下邳和海西外的其他七郡。
而海西未能被攻克是因为有臧霸驻守在此。
曹军急于拿下下邳，暂无暇顾及此地。
吕布听到消息，立即派使节前往求援，但形势已很明显吕布不敌曹操。
臧霸虽然名义上是吕布的人马，但实际上享有高度自治权，更倾向于自保。
不出所料，臧霸很快以兵马不足的理由拒绝出兵。
气急败坏的吕布准备亲自攻打臧霸，张辽得知消息急忙前去劝阻。
张辽明白，此时如果吕布贸然行动，可能促使臧霸直接投诚曹操，于是他写信向臧霸阐述当前形势，说明战争充满变数，在最后决战来临前谁都无法确定胜者。
他建议臧霸不要轻易介入冲突，并提醒即使是以弱势迎敌也存在胜利的机会，如历史上以少胜多的经典案例一般，最终希望臧霸按兵不动，等到局势明朗再做打算。
实际上，臧霸对于吕布并无太多的敬重。
【但对于张辽和高顺这两位吕布麾下的能臣，臧霸极为赏识。
】在收到书信后，臧霸采纳了张辽的建议。
若非如此，臧霸很可能在战争初期便率军向曹操投降。
也就是说，如果没有张辽的信件，吕布的覆灭可能会比原定时间提前一些。
尽管如此，在曹军的强大攻势下，吕布的颓势日益显现。
下邳城内的士兵士气低落，战斗力几乎丧失殆尽；接连不断的叛乱让张辽和高顺头疼不已。
与此同时，吕布也变得更加多疑，对正直的高顺充满猜忌，对张辽也渐失耐心，相反，吕布却开始重用他的亲戚魏续、宋宪和侯成等人。
尽管这些人的能力有限，但因为他们与吕布的亲属关系，得到更多信任。
在这种情况下，张辽和高顺被排挤出核心权力圈，下邳城的防守也愈发紊乱，最终在大水涌入时，下邳城被攻破。
吕布最信任的魏续、宋宪、侯成三人亲自将其捆绑送往曹操处。
而张辽和高顺也随之成为俘虏。
高顺始终不愿屈服，终被曹操斩首；而张辽却未愿意因吕布丧生，他认为自己早已为臣子之责竭尽全力，且吕布尚欠他甚多。
在曹操的劝说下，张辽选择投诚，并立刻被授予中郎将一职及关内侯爵位。
建安五年，官渡之战爆发，在其之前的哨站战——白马之战和延津之战中，张辽表现出色。
白马之战中，“河北四庭柱”
之首颜良声名显赫、威风凛凛，所向无敌。
张辽曾主动请缨想要击败颜良，最终任务却交给了关羽，但与关羽关系甚好的张辽积极为其打助攻，率领少数骑兵，拖延了颜良麾下大军的脚步，才使得关羽能够成功斩杀颜良。
可见白马之战不仅是荀攸奇谋的胜利，也有赖于张辽诱敌之举。
单单靠关羽一人，绝对无法完成单独挑战颜良并战胜两万精锐袁军的壮举！
在延津之战中，张辽带领部分士兵运输粮草以诱敌深入，果然文丑被引诱而出，头脑昏热之际迅速陷入张辽和徐晃等人合围的局面，文丑最终丧身乱战之中，他的部下也随之一哄而散。
战后，张辽因功升为裨将军。
当官渡主战场烽烟四起时，初期张辽与曹仁等将领一道守护营地，在战争后期则自愿成为跟随曹操突袭乌巢、火烧袁军粮草的人选之一。
尽管他加入曹营较晚，但因为卓越的才能，成为了曹军晋升速度最快的将领之一。
在仓亭之战中，曹操采纳程昱“十面埋伏”
的计策，分兵多路进攻，张辽统领其中的一支主力。
此时在曹营众将中，除去曹姓与夏侯姓宗室外，地位仅于于禁之下的便是张辽。
战役之后，张辽负责训练军队，提出了一套新的战术编列，并大幅提升骑兵与步兵的战斗力特别是应对外族铁骑的策略。
此期间袁尚与曹操之间的黎阳之战一触即发，张辽虽未参战主战场，却成功指挥一小队骑兵钳制了高干从并州南下的骑兵力量，大大减轻了主战场上压力。
黎阳之战过后，曹操对冀州展开全面攻占计划，张辽受到委派，多次率军攻克城池。
建安九年曹操攻克邺城，其间张辽又立功斩首袁尚麾下两名重要将领。
这一年他还率军北上击溃鲜卑人，并在回军路上遭遇并击败了黑山军的袭击，为首者为孙轻。
面对太行山一带熟悉的地形，张辽利用敌人麻痹大意再度出击，一举击溃对手且紧追不舍，直接追进了太行山附近区域。
【直到黑山贼首领孙轻被处决，张辽才停止了追击。
】 【不久后，张辽顺手斩杀黑山贼二号人物的消息传到了曹操耳中。
】