13 октября 1920 года состоялось совещание актива академии с участием К. Е. Ворошилова, начальника Всевобуча Н. И. Подвойского, комиссара академии В. Д. Виленского-Сибирякова и других ответственных работников.
На совещании был сделан доклад о необходимости создания самостоятельной военно-научной организации, которая в центр внимания поставила бы изучение опыта гражданской войны. Там же была выделена комиссия, начавшая работу по вовлечению слушателей в эту организацию.
Военно-научное общество возникло в то время, когда еще не окончилась гражданская война и в академии обучалось много красных командиров, стремившихся восполнить свои практические знания теоретическим пониманием боевых операций, хода революционной классовой войны. Однако профессорско-преподавательский состав главное внимание сосредоточивал на старых, «классических» образцах военного искусства. «В 1918 и 1919 гг. – писал М. Н. Тухачевский, – Красная Армия на фронтах выковывала свою мощь, свои организационные формы и вырабатывала свой командный и штабной состав. В центре дело обстояло гораздо хуже. Приходилось базироваться исключительно на старом офицерстве и генералитете, которые, не побывав на фронтах, очень медленно, не спеша, усваивали дух Красной Армии, проникались ее интересами, горестями и радостями.
Месяц спустя возникла организация ВНО при Высшей военно-химической школе. Затем к созданию ВНО приступили военные округа, соединения и части Красной Армии. В числе первых был Киевский военный округ (КВО), Военно-научное общество которого организовалось 13 января 1922 г. на базе ранее существовавшей при штабе Юго-Западного фронта «Особой комиссии по изучению опыта империалистической и гражданской войн».
Примерно в то же время были созданы отделения Военно-научного общества на Северном Кавказе, в Сибири и в других районах страны. В воинских частях появились первичные ячейки ВНО в виде военно-научных кружков. Вскоре местные отделения Военно-научного общества стали обращаться по всем вопросам, связанным с их работой, к Военно-научному обществу при Военной академии РККА, уже имевшей подготовленные научные кадры. Так постепенно за последней закрепилась роль центра по осуществлению самодеятельной научной работы в Красной Армии. Председателем правления Военно-научного общества при Военной академии РККА в 1923 г. был избран М. В. Фрунзе, командовавший в то время войсками Украины и Крыма. Со временем Военно-научное общество превратилось во всеармейскую организацию. Поэтому идейное руководство им со стороны только академической ячейки РКП (б) было уже недостаточно. В связи с этим общее руководство перешло к Политическому управлению Реввоенсовета Республики (далее – ПУР).
Так как Военно-научное общество возникло с целью изучения опыта революционных войн, это определило и первоначальную его деятельность.