山东省发动义和团，巡抚毗贤，束手无策。 义和团的头目朱红灯率领队伍去平原县应援，占领了村子，开辟了地主的粮仓。 那时，济南府候选人知府、亲兵营管理处带着袁世敦率军来到“讨伐团”。 他是袁世凯的异母兄弟。

义和团人数虽多，但战斗力远不如正规军，朱红灯等人在逃，因赃款不均，手下饥肠辘辘，被亲信背叛，落入袁世敦之手。

袁世敦立下大功是理所当然的，但当时朝廷的党争很激烈。 有人认为他破坏集体不力，有人认为“破坏”太过分，认为无论如何，当山东巡警的人都是倒霉的。 袁世敦和他的上司毘贤一起被解雇了。 毗贤的下一任山东巡抚张汝梅，同样难逃被解雇的命运。 党争结果，在天津小站练兵的袁世凯，被提拔为山东巡抚。

袁世凯当山东州长最高兴的是哥哥袁世敦，他刚在山东丢了官，靠袁世凯的官恢复职位并不难。 但是朝廷的党争太激烈了，只要袁世凯帮忙，就一定会落在人家的话柄上，弄不好自己也会当官，不帮这个忙。 袁世敦被驱逐回河南原籍，从此怨恨袁世凯，终生不饶。

1902年，袁世凯死了生母，袁世凯带着棺材回河南项城老家安葬。 此时袁母已谶命夫人，自然要按娘家风景安葬。 但在家族中，袁世凯是私生子，地位比嫡子袁世敦差。 袁世敦拒绝袁母葬在袁氏祖坟。 袁世凯苦苦哀求，河南巡抚主动出面斡旋，但都没有办成，只能将母亲安葬在别处。 从此，袁世凯再也不回项城老家，死后也没葬在项城。