段祺瑞系皖系军阀首领，字芝泉，安徽合肥人，于同治四年（1865年3月6日）出生于六安，数年后迁至合肥。其祖父段佩祖籍江西波阳，早年曾与刘铭传贩过私盐、办过团练，官至淮军统领。段祺瑞1872年7岁，随其祖父在江苏宿迁兵营里读私塾。1879年14岁时因其祖父去世，家道中落，1881年16岁的段祺瑞怀揣仅有的1块银元从合肥出发，徒步数10天2000余里，来到山东威海投奔任军中管带的族叔段从德，被收留在军营中作司书。1882年17岁，父亲段从文在看望他的归途上，被同行的两人害死，段祺瑞请假奔丧未获批准。次年时隔8月，1883年5月10日母亲因悲伤过渡不幸去世，抛下大妹启英12岁，二弟启辅10岁，小弟启勋9岁，一连串的打击与养家的重担，使他变得冷峻和坚毅。1885年段祺瑞20岁，以优异成绩考入天津（北洋）武备学堂炮兵科。两年后，以“最优等”的成绩毕业，被派往旅顺督建炮台。1888年，以第一名的成绩被获准与其他四位同学到德国柏林学习一年半年军事，后独自留在埃森克虏伯兵工厂实习半年。回国后到威海任随营教官5年。
1894年“甲午海战”爆发，正在威海任军事教官的段祺瑞，与学生一道为阵地搬运炮弹。
1896年31岁，被调往天津小站，任新建陆军炮队统带、武卫右军各学堂总办，还任过江北提督、湖广总督等职，37岁官至二品。编撰了许多本操练章典。
段祺瑞是中国现代化军队的第一任陆军总长和炮兵司令。担任过中国第一所现代化军事学校——保定军校的总办，蒋介石、傅作义曾就读于此。他与冯国璋、王士珍被称为“北洋三杰”。
民国年间，1912年3月任陆军总长。1913年代理国务总理。1916年任国务总理兼陆军总长。1920年7月辞职移居天津。1924年10月，59岁时被推为“中华民国临时执政”。曾任过参谋总长、参战军督办、边防督办。1926年3月18日，“三·一八”惨案发生后，他愿承担全部的责任，自动辞去所有职务。（家里人说他当时不在执政府里，也不可能命令开枪。有史料证明“３．１８”事件，是苏联人为扩大自己在中国的势力，所搞得阴谋。）
此后退居天津，成为虔诚的佛教徒，自号正道居士，每日吃斋、诵经、看书、下棋，撰有《正道居集》、《正道居诗》。曾捐资修建青岛湛山寺。任职时，派长子段宏业将班禅九世接到北京雍和宫，授予金印。
1933年保持晚节，坚决不做日本汉奸傀儡，被蒋介石接到上海居住。
1936年，不幸患胃病，身体十分虚弱，家里人劝他吃些肉补身体，他说就是死了也不能开荤。同年11月2日在上海病逝。