張作霖坐穩了大當家的位置之後，他對於自己的生活以及自己未來的日子其實還是充滿了期許的，而且他明白，當土匪是當不了一輩子的，因爲無論怎麼講，土匪畢竟還是匪，早晚必然會被官府剿滅的，所以如果想要長久下去的話，那麼就必須要由匪成官，這樣一來，最直接的方式就是招安了，那麼如何才能被招安那？這個張作霖還沒有想到。
因爲其實說起來，想要被招安的話，那麼最好的辦法就是壯大自己的勢力，到最後讓官府不得不正視忌憚自己，這樣一來就達到了招安的條件，可是張作霖知道，短期之內自己是絕對達不到那樣的效果的，因爲如果很輕鬆就能夠做到的話，那麼金壽山恐怕早就成了官軍，哪還會有他的位置那？
對此張作霖不覺的感到頭痛，可是他卻沒有就此放棄，可是這件事一直也沒有提到日程上來，就這樣，張作霖當着大當家的，過着綹子頭的日子，雖然不怎麼回家，但是他還是常常派人去給自己的妻子送一些日常用品還有錢財，而且他沒有告訴妻子自己做了土匪，只是叫人說自己在外做生意以此作爲藉口。
張作霖就這樣一直到了一九零零年，因爲義和團運動的關係，致使沙俄大舉侵入東北地區，張作霖看準了這個時機，他知道自己的機會來了，因爲沙俄人入侵的關係，燒殺搶掠無惡不作，而且清廷的盛京將軍在這個時候竟然還拋棄了這些子民獨自逃走，使得東北地區陷入了一片混亂之中，其實這樣的情況說起來是很多人迴避都來不及的，可是張作霖卻要偏偏在這個時候迎頭衝上去！
張作霖先是集合了整個綹子的土匪，然後向大家說明自己的意思，同時表示如果願意隨着他一同返回趙家廟的日後他張作霖自然不會虧待，而且現在就能給每人三個大洋的安家費，至於那些不願意跟他去的，則願意回家的可以拿路費，不願意回家依舊願意當綹子的，那麼他可以引薦他們到杜立三亦或者是馮德麟的綹子中。
安頓好一切之後，張作霖帶着願意跟隨他一同回趙家廟的十幾個人，一同回到了那裡，他路上將自己的老婆也帶上了，一起去到了趙佔元家，在於自己的岳父說明自己的想法之後，沒想到，原本已經做好被罵準備的張作霖竟然以外的得到了岳父趙佔元的支持。
趙佔元其實這樣做也是有私心的，因爲他的財產不少，現在這樣的混亂，其實最容易遭受損失的就是他了，要是自己的女婿能夠組織起一支武裝力量的話，那麼無外乎得益最多的還是自己，所以在趙佔元的支持下，張作霖帶着原本從綹子上帶來的十幾個人，再加上一些被他招收來的趙家廟的一些鄉勇之輩，在當地成立了保險大隊，也就是老百姓口中的“大團”。當然了，說起來，這個所謂的保險大隊啊，倒不是張作霖的專利，他也絕不是第一人，在他之前就已經在各地出現了許許多多大大小小形形色色的保險大隊了，這些武裝力量雖然號稱是保險大隊，包圍鄉民的人身財產安全，可是實際上他們與土匪或者說是俄國人相比，基本沒什麼不同，而且其中甚者更是有過之而無不及的。
但是雖然其他的保險大隊是這樣的情況，可是張作霖這一支隊伍卻並非如此，張作霖明白，既然自己想要在未來的時候能夠被政、府招安，那麼就要做出一些真東西來，而且早在當綹子的時候他就懂得民心的重要性，此時的他又怎麼會反其道而行之那？
因爲張作霖的保險大隊在趙家廟的保險區內遵紀守法，不橫行街裡，而且還能夠真正的做到保護鄉民的安全，所以沒過多長時間他張作霖以及他手下保險大隊的名號就傳了出去，而且周遭的結構村子竟然也都主動地向他繳納規費，成爲了他保險區內的一員，因爲加入的村子越來越多，所以張作霖的保險區也就變得越來越大了， 說起來，雖然張作霖是綹子出身，也算是一個徹頭徹尾的鬍子。
但是他對於自己保險區內的鬍匪卻是毫不留情的，見到一個就要消滅一個，即便是不能消滅，他也要將他們徹底的驅逐出去，這樣一來的話，張作霖的名聲竟然變得越來越好，而且他的名氣也越來越大了，很多鬍匪聽聞了他張作霖的名字之後，竟然都選擇避開他的保險區，所以張作霖的保險區內的鬍匪算是真正的得到了遏制。
這就像滾雪球一樣，張作霖的名氣越來越大，那些鬍匪就越不願意在太歲頭上動土，由此就又有更多的地區的人願意在張作霖的保護下生活了，所以這一段時間內張作霖的名聲不但響徹了這一片地區，而且他的勢力也得到了擴充，是這樣的，張作霖的名號越響亮，他的管轄的地區越來越大，肯定周遭的一些其他的保險大隊就會不滿，可是想要與他爭鬥吧，又因爲張作霖的隊伍勢力大，所以很多人就選擇了主動的加入到他的隊伍中，成爲他隊伍中的一員，所以這一段時間內，張作霖可謂是名利雙收啊。
不過張作霖的名利雙收卻也不是一點危險也沒有的，這其中對他最爲不滿的就是他的一位老朋友，大土匪頭子金壽山了，因爲張作霖的保險大隊的關係，金壽山手下的幾個兄弟下山砸窯的時候，到了他的管轄區，本以爲他們大當家的與這位保險大隊的隊長有交情，就算是不能夠哪一些好處，能不至於被殺，可是萬沒想到，張作霖得知之後姜然沒有顧忌自己與金壽山的交情，直接將那幾個土匪給斃了。
金壽山如何不怒？不過那個時候因爲杜立三的關係，金壽山不好對張作霖動手，所以他派人給張作霖傳話，希望以後如果再出現這種事，不要他權當不知，就是當報了號之後能夠擡擡手，可是張作霖那，卻沒有答應，反而還叫那傳話的人回去告訴金壽山，在他張作霖的管轄地之內，如果再有金壽山的綹子，那他張作霖肯定是見一個殺一個，絕不留情！
張作霖這麼做其實也是無可奈何之舉，但是金壽山卻徹底被觸怒了，到了一九零一年春節前夕，還是因爲一些小事，張作霖與金壽山之間再一次出現了摩擦，而且這一次，讓張作霖沒想到的是，金壽山竟然真的對他動手了，其實最開始的時候張作霖就知道自己與金壽山之間遲早都會有一個了斷，但是因爲杜立三的關係，所以金壽山纔沒有動自己，可是張作霖這其間可是實打實好幾次都想和金壽山一決高下，只不過還是因爲他手下人的手頭不夠硬，再加上他也不是一個混人，所以纔沒有那樣做。
而且說起來，這期間，杜立三也曾派人來與張作霖談過，杜立三是張作霖的結拜大哥，所以對於張作霖這個兄弟，富有江湖義氣的杜立三自然是不能夠不聞不問的，更何況，現在張作霖是同金壽山那個傢伙有了摩擦，杜立三很清楚金壽山的爲人，所以這個時候他這個做大哥的自然不能不管。
但是也還是因爲張作霖現在這個保險大隊長的身份，實在是讓杜立三不知道應該如何和他交流，所以纔會選擇派人來傳話，而不是親自前往了，杜立三派人告訴張作霖，希望能夠清楚一些，雖然現在張作霖是保險大隊的隊長，可是還希望他能夠念及江湖情意，再者說，雖然張作霖與金壽山不是什麼結拜的關係，可是當年金壽山也給過他不少的幫助，所以希望張作霖能夠擡擡手，不要再加深矛盾了。
當然了，杜立三做大哥自然不會只說張作霖的不是，所以來人還說，現在金壽山那邊有杜立三週旋，當然了，這也只不過是暫時的，因爲都知道金壽山的脾氣秉性，所以對於與他這樣的人來說，他與張作霖之間的恩怨肯定會有一個瞭解的，所以杜立三沒有明言，但是其意思已經很明確了，那就是假如張作霖日後真的與金壽山之間發生衝突的話，那麼杜立三絕不會坐視不管！
張作霖得到了杜立三這樣的意思之後，他不由得感覺到了一陣輕鬆，所以也就放鬆了警惕，不然的話，他也絕不會在這樣敏感的時刻還會大半夜的醉着酒孤身一人回家了！也正是這一天，張作霖遭到了自己有生以來第一次最大的危急！
就在他的家門口，他竟然遭到了金壽山匪部的偷襲，而且說起阿里，這一次金壽山可是準備充足啊， 因爲金壽山知道張作霖和杜立三之間的關係，面對這個遼西巨匪，他也不敢小覷，所以這一次金壽山做出了一件令人不齒的事情，當然了，這事情肯定不是對張作霖的偷襲，而是他勾結俄國人，希望能夠借用俄國人的力量來制衡杜立三！
張作霖這一次可謂是慘敗啊，不過好在他這個人命大，亦或者是說天不絕他，他不但逃開了偷襲他的人，而且還將自己懷孕的老婆也給救了出來，張作霖帶着他的老婆，一輛馬車以及三五個聽到槍聲來救援他的弟兄，還有幾匹馬就這麼向着八角臺而去。
就會天不絕他，張作霖這一次不但成功的逃到了八角臺，甩開了金壽山的偷襲，而且他的老婆還在馬車上給他剩下了一個男孩，正是張學良。八角臺原本就有一夥土匪勢力，帶頭的人叫張景惠，此人早就有心思投奔張作霖了，這一次張作霖雖然是逃命到了他這裡，可是誰能想到，他竟然就這麼將自己的綹子交給了張作霖，當然了，這個張景惠，就是現在張作霖的左膀右臂之一，也是他的結拜兄弟之一，只不過這都是後話了。
張作霖雖然一開始推辭，不過後來還是接受了張景惠的隊伍，而且就在他剛剛接手了張景惠的隊伍後不久，另外以後隊伍竟然也趕到了八角臺來投奔他了，這一次的來人，不是別人，正是張作相！不過要說明的是，別看張作霖、張作相只有一字之差，可是二人卻沒有任何血緣關係。
次年，張作霖這一支隊伍，終於被朝廷招撫，在新民，張作霖被任命爲馬隊幫帶相當於副營長，而後升任爲管帶，既營長，一九零四年，日俄戰爭爆發，張作霖看準了這又是一個機會，他開始帶着自己的“官軍”開始參與到其中，當然了，這在當時的朝廷是決不允許的，可是沒有辦法， 東北這片地方多年無人務管理，所以混、亂一些也是可以理解的。
說到這不得不說，日俄戰爭雖然是日本和沙俄之間的戰爭，可是誰能想到，張作霖這麼一個小小的管帶竟然能夠在這其中撈到不少好處，而且他還藉此結識了許許多多的日本軍人，甚至是一些軍官。說起來，張作霖此人真是心眼多，在日俄戰爭之初，他幫助實力強大俄國方面，由此他從俄國人那拿到了不少好處，而後，到了日俄戰爭中期，俄國開始處於下風之時，張作霖果斷的倒戈日本方面，憑藉着自己之前對於俄國軍人的瞭解，又給日本人提供了不少的方便，使得他又從日本人那裡得到了不少的好處！
而且雖然他參加了日俄戰爭，可是非但沒有損害到他的隊伍實力，反而藉着這個機會他又在一次擴充了自己的實力，雖然張作霖那個時候還是一個小小的管帶，可是他手下的人嗎，卻是一般人所不能比擬的，而且憑藉着他的交際的本事，又從日本人那弄來許許多多他們繳獲的槍支，張作霖的隊伍裝備上這樣的俄國造、日本造，其戰鬥力自然也是大大的提升了一番。
到了一九零七年，東三省改建省制，徐世昌首任總督，張作霖又計擒杜立三有功升爲奉天巡訪營前路統領。
一九零八年年，張作霖奉徐世昌令命駐防鄭家屯、洮南，追繳陶克陶胡叛匪。一九零九年，奉錫良總督之命追繳蒙匪牙什、白音大賚等。一九一一年，武昌起義，張作霖帶兵入奉天省城鎮壓革、命黨人。次年，因鎮壓革、命黨人被封爲關外練兵大臣，袁世凱任臨時大總統後任其第二十七師中將師長。
一九一五年，被袁世凱召入京，表示支持“速正大位”。雖然不知道張作霖到底是不是真心支持袁世凱的，可是至少表面上他對袁世凱是支持的，所以這一次東北的變化，不得不讓唐繼堯提高警覺啊，而且唐繼堯相信，不單單是自己，就是蔡鍔，要是知道了這樣的消息的話，那麼他肯定也會對於千里之外所發生的事情，提起興趣的！