小白逃亡的经历充满了艰险与屈辱。他的母亲是卫国人，因此他就打算逃到卫国。流亡者在途经谭国（今山东章丘西）时受到当地官吏的无耻盘剥和羞辱——那些官吏天生就有一副媚上欺下、打落水狗的奴才秉性。
小白愤怒地向谭子控告，却没想到那帮无赖官员的幕后黑手就是谭子。结果流亡者遭到了更无耻的对待，然后被粗暴地赶出谭国。大概就在这个时候，公子小白便有了夺取君位、报仇雪耻的念头。
流亡者靠着变卖随身佩戴的美玉才得以到达卫国；要知道，古人把玉看做君子的象征啊！卫君黔牟和左右二公子把小白奉为座上宾——因为卫惠公在齐国人的庇护下蠢蠢欲动，准备卷土重来；而小白的内线却可以得到卫国人需要的消息。
黔牟曾想要联络鲁国共同对抗齐国，但是小白告诉他根本行不通。因为目前鲁国的安全是由齐国决定的，况且鲁庄公与卫惠公为表兄弟，有着天然的亲近感；鲁庄公与黔牟却没有血缘关系，他一定不会与卫国联手抗齐。
但是黔牟根本不听，他派使者去见鲁庄公，结果无功而返；而黔牟的行为大大刺激了齐国人。后来齐襄公气势汹汹率领大军地进攻卫国，小白便趁机逃走了。逃亡者一路向东，最终选择了当时不受齐国控制的东夷国家——莒国，并在那里安定下来。
公子纠和小白在东道国所受的待遇截然不同。鲁庄公给予公子纠的待遇非常高，而且公子纠离齐国的君位越近，待遇就越高。小白则不然，莒国是个尚未完全开化的国家，小白作为流亡公子，在莒国举目无亲；莒子先前还送给他们一些二手货，后来就对他们不理不睬了。
在莒国的那段时间里，流亡者只能靠经营小生意、或靠齐国人的接济来维持他们那越来越不体面的贵族生活。以小白高傲狷介的性格，他竟然还能坚持活到准备回国夺的那一刻，简直是不可思议；而支持他活下去的完全是复仇称霸的远大理想。
齐国内线把公孙无知被处决的消息第一时间传给小白，小白立即决定赶回临淄。鲍叔牙说：“国内政局究竟是什么情况还不清楚，公子还是不要急于回国，也许当前的局势比襄公时期还要凶险。”
小白说：“我们不清楚，公子纠也不清楚。等时局明朗了，就什么机会都没有了。君主是争来的，不是等来的！大不了就是一死而已！小白宁可拼死一搏，也不能再过寄人篱下的生活。你们现在可以选择是否跟随我回国，但绝没有第二次机会了。”。
鲍叔牙说：“我如果现在抛弃公子，当初还不如留在齐国。但是莒国到临淄路途遥远、道路凶险、流寇众多，不可以不备。我们想要安全回国，必须向莒子借支军队。”
小白进宫去游说莒子，而莒子几乎已经忘了本国还收容了这么一票人。他对小白描述的宏图伟业和天价的许诺丝毫不感兴趣，只是说了些不痛不痒的风凉话。莒子只是送给他一个叫莒丘平的、看守城门的瘸子充当护卫，最后“祝他早日成功”，就这样把小白打发走了。