李成梁攻陷王杲的山寨后，纵兵烧杀抢掠。李成梁和许多大明边军一样对女真人十分凶残，常实行灭族政策，杀良冒功更是家常便饭，年少的努尔哈赤见势不妙，便领着弟弟，抱李成梁马腿求饶。
李成梁询问后得知，这两个女真少年原来是觉昌安的孙子，李成梁与觉昌安、塔克世都很熟，相交多年。既是故友后人，李成梁就把努尔哈赤带回了广宁的辽东总兵府。还给他起了个新名字--小罕，努尔哈赤十分喜爱这个名字，因而后来称帝之时，他被众人称为罕王。
努尔哈赤当上了李总兵的家丁，兼书童，兼仆人，兼侍卫。除了伺候李成梁，还负责服侍李成梁小妾李喜兰。在总兵府的这段时光，成了努尔哈赤人生的重要转折点。当时，辽东战事频频，凡有战事，努尔哈赤都随李成梁出征，每战必先登，屡立功，成梁厚待之。
甚至李成梁出入京师，都带着他。在跟随李成梁的几年，努尔哈赤见了世面，开阔了视野。目睹强大的明军如何冲锋打仗，如何攻城略地。战略战术、排兵布阵有了真切的理解。
因为讨好了喜兰，努尔哈赤读了许多兵书战策。在后来的战争生涯里，《三国演义》几乎成了努尔哈赤的“用兵宝典”。
在总兵府努尔哈赤不但读书，还经常惹事，被李成梁抓起来差点打死，但那位叫李喜兰的小妾，放了他，因而，有人说努尔哈赤和李喜兰有一腿。但这并不重要，小妾是什么？小妾只是工具和财产，将小妾互送、玩乐，在达官贵人们眼中简直是稀松平常之事！
此外努尔哈赤的弟弟舒尔哈齐，有个女儿，嫁给了李成梁的儿子李如柏做妾。
而种种迹象表明，勇敢而悲痛的努尔哈赤，除了会打仗，还很会来事儿。经常给李成梁送礼，东西是一车车地拉，拍起马屁来，无所不用其极。
这是有证据的，万历十一年（1583）二月，努尔哈赤祖父、父亲被误杀，努尔哈赤接受委任，管理部落。十二月，努尔哈赤的死敌，海西女真中最强大的叶赫部贝勒清佳努被讨伐，所部两千余人全部被杀，势力大减。
此后，努尔哈赤率兵攻打尼堪外兰，尼堪外兰投奔李成梁，李成梁却把他交给了努尔哈赤。
万历十五年（1587），海西女真哈达部孟格部禄联合叶赫，被李成梁发现，随即攻打，斩杀五百余人。
万历十六年（15），叶赫部再度强大，李成梁再次出击，杀死清佳努的儿子那林脖罗，斩杀六百余人，叶赫部实力大损，只得休养生息。
万历二十一年（1593），努尔哈赤终于统一建州女真，成为了女真最强大的部落。九月，面对越来越强大的努尔哈赤，海西女真叶赫部联合哈达部、蒙古科尔沁部等九大部落，组成联军，发动古勒山之战，攻击努尔哈赤，失败，被杀四千余人。
战后，努尔哈赤将叶赫部首领分尸，一半留存，一半交叶赫部。自此，叶赫部与爱新觉罗部不共戴天。因此叶赫部最后一个首领，苏泰的父亲--贝勒金台石，放言：叶赫部只剩一女子，亦将倾覆之!
李成梁与戚继光一南一北是冠绝当时的名将，他的儿子李如松更是万历朝战的主将，名传千古。李成梁的战略眼光非常高明，他的习惯是谁露头就打谁，谁强大就灭谁，鞑靼如此，叶赫部如此，哈达部也如此。海西女真四分五裂