南北洋的说法最初应该是在清朝建立水师时的提法。1895年12月，袁世凯由军务处大臣荣禄、李鸿藻等奏派扩练驻天津小站的定武军，更名为“新建陆军”，也就是北洋新军。后袁世凯继李鸿章后，署理直隶总督兼北洋大臣，次年实授，权势更加显赫。徐世昌、段祺瑞、冯国璋、王士珍、曹锟、张勋等清末民初的军政要人都是袁在练军时从天津武备学堂中挑选的学子，或是其私人亲信。这些人在袁死后相继掌权，掌权的基础就是这支“北洋新军”。再加上这些人的出身也是这支部队，所以统称其为北洋军阀。