然而，下野的征韩派成员却走上截然不同的道路。江藤新平、西乡隆盛等人以武力反对新政权，结果身败名裂。最初江藤参加了要求开设民选议院的“爱国公党”，但在1874年2月率领万余名佐贺县士族举兵叛乱，结果兵败后被处以死刑；下野后返回故乡鹿儿岛的西乡隆盛，自费建立“私学校”，招集士族子弟入学。“私学校”后来发展到百余所分校，学员多达三万余名，实际上具有军队的性质。在西乡的影响下，鹿儿岛县拒不执行包括俸禄处分及地税改革在内的中央政府政策。为防不测，政府在1877年1月命令将鹿儿岛弹药库中的弹药运出该地，但“私学校”的学员闻讯后抢先袭击了弹药库，并将之抢走。同年2月15日，西乡率兵从鹿儿岛向北出发，同时向政府发出“质问”，被称之为“西南战争”的内战由此爆发。政府先后共出动六万多军队前往九州地区作战，西乡军队最多时也达到四万余人，其规模甚至超过“戊辰战争”。长达八个月的西南战争以西乡兵败自杀而告结束，但其影响极为深远，即士族武装被由平民征集的军队打败，由此证明了征兵制的效果。从此，士族不再以武力反对政府，而是通过言论或其他方式。
与西乡隆盛同时辞去政府官职的副岛种臣、后藤象二郎、板垣退助等人在1874年初组成了“爱国公党”，提倡“天赋人权”，要求设立民选议院。在随后向政府提出的《设立民选议院建议书》中，他们批判以岩仓具视、大久保利通为中心的政权是“有司专制”，将使国家趋于瓦解，只有设立民选议院，给人民以选举权、租税共议权，才是拯救国家之道。尽管这个“爱国公党”仅存在两个月，但不久板垣退助与片冈健吉等人在其故乡高知县组成“立志社”，依然大力提倡“天赋人权”，主张“人民尽皆平等，无贵贱尊卑之别”。同时，他们呼吁为伸张人民的权利，必须建立民选议会。在“立志社”的影响下，日本全国各地出现了许多类似的政治团体。1875年2月，以“立志社”为中心，各地的政治团体在大阪举行集会，并建成“爱国社”。该团体积极主张“各伸张其自主之权利，尽人类本分之义务，小则保全一身一家，大则维持天下国家”，以“增进天皇陛下之尊荣福利，使我帝国和欧美各国对峙屹立”。
针对上述自由民权运动骤然兴起的局面，明治政府一方面进行部分政治改革，在天皇发布逐渐建立立宪政体诏书的同时，废除左右两院，设置元老院和大审院；另一方面，劝诱自由民权派的中心人物板垣退助再度入阁，以达到瓦解运动的目的。尽管板垣重新担任政府参议，爱国社也因此在1875年4月解散，但在社会各阶层的推动下，自由民权运动却持续发展。
二、运动高潮