Наибольшей ценностью для самурая был меч – и как вооружение профессионального воина, и как символ доблести, чести, могущества и храбрости сословия воинов, неоднократно воспетый в легендах, рассказах, песнях и стихах. Законы сёгуна Токугава Иэясу гласили: «Меч – это душа самурая. Тот, кто потеряет меч, тот потеряет честь и подлежит строжайшему наказанию». 

Традиционные японские самурайские мечи катана и вакидзаси – это не только оружие, но и произведение искусства, обладающее высокой эстетической ценностью. В МИО находятся несколько мечей катана и вакидзаси, в том числе катана начала XVII в. работы мастера Фудживара Мунеюки.

С 70-х годов XIX в. в период реставрации Мэйдзи боевое оружие Японии было подвержено мощному европейскому влиянию, что отразилось и на японском офицерском клинковом оружии. В армии на смену традиционным самурайским мечам пришли мечи промышленного производства – «гунто», отличающиеся дешевизной, простотой изготовления и отвечающие требованиям нового времени. Мечи гунто, в переводе обозначающие «военный меч» (гун – военный, то – меч) принятые на вооружение японской армии в периоды Мэйдзи (1868–1912) и Тайсё (1912–1926), напоминали западные образцы.

С конца 20-х годов ХХ в., на волне интереса к самурайскому прошлому, многие офицеры вернулись к классическим самурайским мечам. В 1934 г. был утвержден новый армейский меч по образцу традиционных японских мечей – «син-гунто» – новый военный меч (син – новый). Син-гунто отличались от гунто тем, что эти мечи по форме и размеру клинка, оформлению рукояти и технологии крепления хвостовика в рукояти практически воспроизводили облик традиционного японского меча. Изготовлением клинков для син-гунто занимались как частные мастера, так и промышленные компании, и небольшие фабрики, нередко к новым эфесам присоединялись клинки XVIII – XIX веков.Эти мечи использовались офицерами японской армии вплоть до окончания Второй мировой войны.

Оригинальный комплекс древкового вооружения, изначально основанный на китайских образцах, сложился в Японии к XVII в. Наиболее распространены были копья – яри и их разновидности. Популярным видом древкового оружия была нагината, с клинком предназначенным не только для рубящих, но и для колющих ударов. Характерен для Японии ассиметричный лук – юми. Среди японского оружия особое место занимает различное комбинированное и специфическое оружие, которое трудно поддается классификации – кусарикама, хачивара, тобигучи.

В МИО также представлены два комплекса японского защитного снаряжения – доспех эпохи Момояма (1573 – 1603 гг.), в который входили шлем с полумаской (эпоха Эдо 1603 – 1867 гг.), панцирь, наплечники, набедренники, защита рук и ног, а также кольчужный доспех эпохи Эдо (1603 – 1867 гг.).