一位中年人躺倒在病床上，气喘吁吁，看起来已经命不久矣，这位是羊祜的父亲羊衜。陪在他旁边的是他的弟弟羊耽和他的女儿羊徽瑜和儿子羊祜。羊衜轻轻握住兄弟羊耽的手，嘱托道：“兄弟，看来我已经不行了，以后这羊家就要靠你支撑了”。羊耽点点头：“兄长，你放心吧，不管是徽瑜还是祜儿，我都会好好照顾他们的。”羊衜勉强支起自己的身体，轻轻摸了一下羊徽瑜的手，羊徽瑜早已经泣不成声，相比之下，年仅十二岁的羊祜显得十分冷静，虽然眼角也早已经湿润了。
“不愧是我的儿子，祜儿，为父还有东西要转交给你。”
“是的，爹爹，是什么？”
只见羊衜轻轻从床边暗格里面拿出了一把中间宽，两头窄，形状就好像一条青鱼，长约两尺多的剑，他颤抖地把剑交给了羊祜：“这是你祖父，我也就是我父亲“悬鱼太守”羊兴祖留下的悬鱼剑，以后就交给你了。以后不管你遇到什么困难，这把悬鱼剑一定可以帮到你的。”
羊祜接过了悬鱼剑，只见这把剑晶莹剔透，能够反射出光线，显得非常与众不同。羊祜紧握悬鱼剑，对着父亲点了点头。羊衜微笑了一下，便仰头睡到了床上，很快就咽下了最后一口气。羊徽瑜惨叫一声，扑倒在父亲的身上，羊耽也捂住了自己的脸，眼泪从手间滑落下来。只有羊祜转过身去，他的双手轻轻在颤抖，从悬鱼剑上面照出了自己父亲死后的样子。
服丧期间，羊祜除了阅读各种书籍以外，还找机会学习剑术，争取把悬鱼剑转化为一把趁手的兵器。
三年服丧期结束之后，羊耽带着羊祜走到了家门口，他显然有话要说。
“祜儿，总有一天你也要继承这个羊家，所以你必须学到更多的东西，可惜我现在马上就要去洛阳就任为太常了，平时实在是抽不出什么时间来对你进行教育，所以我现在想办法帮你联系到了一个著名的隐居人士，由他来教授你更多的技能，你说说你想学什么吧？”
羊祜点了点头：“叔父，我现在最想学的就是剑术了，因为我用这把悬鱼剑成为一个绝世高手，将来还能用这把剑出人头地，重振我们泰山羊氏的声威！”
羊耽有些哭笑不得：“没想到你还有这股志气，剑术当然很重要，但在我们大魏，相信还有更重要的内容需要学习，比如说四书五经，比如说诗词歌赋，比如说为政的技巧，再不济还有行军打仗的策略等等，如果只是学一个剑术的话，是很难有出息的，你明白了吗？”