1896年，袁世凯奉命到天津小站督练新军。一天，他发现少了一个人，那就是段祺瑞。他连忙问道：段祺瑞怎么没来？一旁的唐绍仪告诉他，段祺瑞赶回家完婚去了，但已经发电报催他尽快来报到。段祺瑞回家之前，并不知道被调往小站协助袁世凯练兵。接到电报后颇感为难，一边是人生大事，一边是军令如山。正在为难之际，忽然接到袁世凯的电报，一是说婚姻大事要先办，去小站之事，可延几日；二是贺喜，并有银票一张，作为贺礼。

段祺瑞办完婚事，赶回小站，袁世凯率领一批将官，亲自迎接，并邀段祺瑞同上一辆车回到军营。几天后，段祺瑞在一家饭店举行婚宴，招待小站同僚。婚宴结束后，饭店老板告诉段祺瑞：袁大人已经吩咐了，所有花销全记在他的名下。从此，段祺瑞对袁世凯忠心不贰，成为袁世凯的左膀右臂。

可左膀右臂并不等于心腹，对心腹交代的事情，左膀右臂并不一定知道。就像袁世凯要当皇帝，外面传得沸沸扬扬，段祺瑞一开始还为之辩护。后来段祺瑞的叔叔问他：老头子有此意思，你的看法如何？万万使不得！段祺瑞毫不犹豫地说，此种事必遭天下人反对。他还就传闻问过袁世凯，而袁世凯矢口否认。

等帝制活动逐渐公开时，段祺瑞基于当年的知遇之恩，依然苦口相劝：祺瑞自小站跟随总统鞍前马后，将近20年，总统知遇之恩，祺瑞没齿难忘。如今，国势危殆，倘有变动，后果不堪设想。祺瑞无知，亦诚可鉴，望大总统三思。

袁世凯也装作推心置腹的样子说：芝泉，你是我的老部下，难道还不了解我吗？我可以告诉你，我绝不会做皇帝。如今我这个大总统与皇帝有什么不同，如为儿孙计则更不可。克定是个残废，其他几个也无此才能。你尽可放心，不要胡思乱想。段祺瑞一片忠心，袁世凯却在考虑由谁来接替他任陆军总长。

袁世凯要当皇帝一时走火入魔，段祺瑞还是要劝阻，别人怕他遭嫉恨，就劝他别去，他说：个人进退得失事小，国家安危事大。他不能眼看袁世凯自取灭亡而不顾。