段祺瑞生于同治四年二月初九日（1865年3月6日），他的父亲段从文一生务农，是个老实巴交的农民。同治十一年，七岁的段祺瑞被祖父段佩带往江苏宿迁任所。段佩时任“铭字营”直属马队三营“营长”，戎马一生的祖父给段祺瑞的影响远远超过了父亲，让段祺瑞少年时代逐渐喜欢上了军营生活，并立志从军。光绪七年（1881年），段祺瑞在祖父病故后，只身徒步上千里，前往山东，投奔在威海驻军中任管带的族叔段从德，后被安排在营中当司书（相当于登记仓库物资的库管员）。
为了宪兵队能够顺利而且“公正”的成立，吴长庆向威海驻军提出借兵五十的要求，并请求派军官前来当演武裁判，这段从德便是威海方面派来的代表之一。段从德接到命令的时候，恰逢段祺瑞刚刚到威海，自小立志征战沙场的段祺瑞，怎会甘心在军中当个司书？为了开阔眼界，段祺瑞央求叔叔带着他来“见识”一番。
这一见识不要紧，袁世凯“训练”的三十人小队，深深触动了段祺瑞心中的军人梦——这才是他心目中真正的军人！更让他吃惊的是，这些军人竟然是袁世凯在一个月内训练出来的！段祺瑞几乎是立刻把袁世凯当作了自己的偶像，为了能够拜会一下这个善于练兵的军官，段祺瑞再次苦苦请求叔叔为他引见。段从德与吴长庆虽然早年就见过面，但由于两人的身份悬殊，因此也只是停留在认识的阶段。为了这个宝贝侄子，段从德只得“厚颜”让吴长庆为二人介绍。虽然袁世凯对这段祺瑞的历史不甚了解，不过北洋三杰里赫赫有名的炮兵“总教头”还是听说过的！
听了段祺瑞的自我介绍，袁世凯早把什么宪兵队长给忘到脑后，这可是天下掉下来的人才啊！看着还一脸稚气的少年，袁世凯和气的说道：“芝泉爀要客气，我两年纪相渀，不妨兄弟相称！”
段祺瑞显然没有料到袁世凯这么“平易近人”，感动道：“多谢袁兄抬爱，小弟实在有些受宠若惊……”
看袁世凯的态度如此随和，段从德心下高兴，当即说道：“呵呵，你们都是年轻人，不妨好好聊聊。启瑞，多多向袁大人请教！”
吴长庆对待段氏叔侄可就没有袁世凯那么客气，他对袁世凯吩咐道：“世凯，你与祺瑞好好叙叙，但莫误了时辰，我在营房等你，还有很多事情需要处理！”
吴长庆这番话，说白了就是让段氏叔侄不要缠着袁世凯。此言一出，段氏叔侄都有些尴尬。袁世凯见此种情形，哪能放过收拢人心的好机会：“是，大帅，属下不会误了时辰。对了，段大人，芝泉是不是您这次带来的五十兵勇之一？”
段祺瑞有些不好意思道：“小弟在军中任司书，所以……”
袁世凯看看段祺瑞的表情，心下了然，他问道：“段大人，下官与芝泉甚是投缘，不知可否割爱，将芝泉派到我庆字营来做我的帮手？”