1878年8月23日夜，皇宫旁竹桥兵营的近卫炮兵大队发起了叛乱。在西南战争中，精锐的近卫兵战果惊人，尤以近卫炮兵为大，西乡隆盛曾盛赞曰：“如果没有红帽子和大炮，就冲进美丽的江户了”。但是在论功行赏之时，将军们各得富贵，下士卒们却在兵营里继续啃军粮，便以为政府不给自己奖赏，从而生起对将军的不满，决定向皇居进发，让天皇聆听自己的想法。在杀害前来阻止的大队长宇都宫茂敏少佐和值班大尉后，近卫炮兵们前往近卫步兵联队总部，与计划一同起事的步兵合流，但是遭到步兵的射击，双方在街道上展开交火，子弹甚至射入首席参议兼大藏卿大隈重信宅邸。交火过后，部分炮兵前往赤坂临时皇居，但是明治政府已加强防备，在皇居前门与叛军对峙。最终在德高望重的大久保忠八自戕后，叛军丢下武器束手就擒。
近卫炮兵的叛乱，震动了整个明治政府。作为日本第一支国军，明治政府对近卫兵有极高的期望和信任，在最初的时候，近卫兵完全由士族组成，有着极高的武人自豪，但是在明治六年政变，西乡下野之后，大量萨摩出身的官兵离队，明治政府为了补充兵员，从镇台兵中选拔“身体强壮而且品行端正者”加入到近卫兵中。这些非士族出身的近卫兵需要服五年兵役，有着涨薪和免除后备军役的福利待遇，再加上“天子亲兵”的荣誉，肉食者谁也没想到他们会发起叛乱。然而，在被征召的人眼里，近卫兵却是另一副模样：前文提到，对于从事农业生产的家庭而言，失去壮劳力三年时间对家庭的经济而言无疑是难以承受的沉重打击，而五年的近卫兵役更是让人不堪重负，而且士兵的薪资却因为“义务”而非常低廉，其中又以数量最多步兵为最低。1877年12月，明治政府将各省的预算砍了1/5，陆军省便从士兵薪资开刀，减少了1/20，与此同时还削减了维持军营日常生活的预算，对于近卫炮兵而言，在战争中功勋卓著的他们不仅没有得到奖赏，还被砍了工钱，自然难以忍受这种待遇。另一方面，近卫炮兵叛乱还显现出日军的另一个问题，那便是军纪。对于生长在幕末明初动荡社会的士兵们而言，“叛乱”可说是日常生活的一部分。他们还在对旧统治阶级的战争中，发挥了巨大的作用，这样的自信或许给了他们挑战权威的勇气。而且，此时的日军并不像后世一般军纪严明，上官动辄殴打违纪士兵，相反，此时的军营生活虽有一定规章，却也给了士兵过多的自由，再加上被迫服役的因素，日军的军纪虽不至于涣散，但也足以称一声松弛。此时已晋升陆军卿的山县也在书信中提到：“若不做一改革，将来维持军纪之目的，甚为无望，深为痛惜。”在西南战争之前，西乡等留守政府主张“征韩论”，与岩仓使节团产生了尖锐的对立，而出身萨摩的桐野利秋陆军少将在军中散播“征韩论”，试图通过军队影响政治。在西乡下野后，萨摩藩的官兵们不顾天皇的亲自挽留，卸甲回乡，开了现代日本军队干涉政治的先河。木户孝允评价说：“士兵涉政府之议，论是非，强谋进退等，实未成其国之体统，实为慨叹不堪。”1873年12月，熊本镇台的士兵也发起暴动，点燃军营后解散回家，后来直接投奔西乡隆盛而去。在明治维新前，武士除了军务以外，还是政治的精英，担负着地方乃至全国的行政事务，在明治维新后仍然积极参与政治事务，使得日本军政难以分离。1872年1月，兵部省制定了《读法八条》作为军人的规范，后来又制定《海陆军刑律》，施行更加严厉的刑罚，但是军人犯罪依然有增无减，1876年便有1080人犯罪，其中也不乏为逃避升迁（会导致延长兵役）而犯罪者。西南战争之后，明治政府总结教训，认为在人数、装备和练度（特指近代战技）上都劣于政府军的萨摩军能够如此顽强的抵抗，其因在于由士族组成的萨摩军有着更加强大的精神力量。此前制定的《八条》《刑律》只是外部的规则，内部的精神力量还未成熟，于是在1878年10月，山县有朋以陆军卿的名义颁布了《军人训诫》
此役中士族组成的警视厅拔刀队立下了莫大的功绩《训诫》将忠实、勇敢、服从列为军人精神的三大要素，还着重强调了对军人对上级的绝对服从和不干涉政治，其中规定，：“无论认为上级的命令多么不合理，都必须服从。如果认为命令不合理，在先予服从后，可以按照正当程序进行抗议，不过抗议时绝对禁止结党。”于现今某些中学对学生的要求有着异曲同工之妙。另一方面，《训诫》还规定“非议朝政，私议宪法，讥刺官省之布告诸规等举动，乃与军人之本分像背驰之事。”曾经日本的武士，除了军事身份外，还承担着治理封地的责任，同时还要与其他大名开展外交，但是在现代国家中，军人不再负担外交和内政的事宜，日军也需作出改变，仅以保家卫国为己任，不得干扰政治。然而，在武士遗风和欧风美雨的影响下，军人干政屡禁不止，1881年更是有四位将军向天皇上奏，抗议政府的决策。这虽然出自爱国心和传统武士的伦理观，但仍属于军人干政的畴，同时军队内部由于政见不同，分裂为多个团体，以及欧风美雨使得军纪涣散等种种影响，迫使明治政府在1882年颁布《赐给陆海军军人的敕谕》。《敕谕》和《训诫》同为西周起草，但是前者更加口语化，使得普通士兵也能够理解内容，同时强调军队是天皇的军队，下级对上级的服从就是对天皇的服从，加强了上级命令的绝对性，使得国族意识较弱（甚至没有）的士兵有了较为实际的忠诚对象。“军人应已尽忠为本分……不惑于舆论，不拘于政治，唯有一心一意自守本分之忠节，须知义重于山岳，死轻于鸿毛。”将军人不干政与对天皇的忠诚捆绑起来。在实际执行中，天皇和《敕谕》被提到了更高的高度，士兵听见“天皇”时需立刻立正站好，背诵《敕谕》时错一个字便会受到处罚，再加上《陆军刑法》和《海军刑法》的制定，军人干政在一定程度上得到压制。至此，日本陆军初步成为了一支近代军队，然而，并没有人能够预知到，在下一个世纪，这支新生的军队会犯下滔天的罪行，最终向他的徒弟以及敌人投降。
