Родился 01 марта 1926 года в УАССР, Шарканский район д. Пальники.
7 ноября 1943 года 17 летним юношей был призван в ряды Красной Армии для прохождения первичной солдатской подготовки в 3-ей автоматной роте 1-го батальона 49–го запасного полка, располагавшегося в Молотовской области (ныне Пермский край).
В рядах Советской Армии службу проходил рядовым бойцом. С 1943 года воевал в частях Калининградского фронта.
Фронтовой путь Алексея Михайловича начался в автоматной роте 157 –го стрелкового полка 53 –й гвардейской Краснознаменной дивизии, готовящейся к прорыву немецкой обороны между гг. Псковом и Островом. После прорыва вражеской оборонительной линии и освобождения городов в июле 1944 года, получил тяжелое ранение правой руки. Спустя четыре месяца, выписавшись из госпиталя, пехотинец Рылов вернулся на фронт в 65-й стрелковый полк 43 гвардейской дивизии, направлявшейся в Прибалтику на границу с Восточной Пруссией. В одной из разведок был серьезно ранен и долгожданную Победу встретил еще во время лечения в госпитале. Лечение проходило с 1945 по 1946 годы. В этот период родственникам пришло извещение, о без вести пропавшем их родственнике. В это же время на Алексея Михайловича было направлено представление на вторую медаль «За боевые заслуги». Но в связи с предыдущими событиями медаль наш герой не получил.
23 февраля 2021 года в Ижевске состоялась торжественная церемония открытия мемориальной доски в честь ветерана Великой Отечественной войны, почетного ветерана Главного управления МЧС России по Удмуртской Республике, майора медицинской службы Алексея Михайловича Рылова.
Памятная доска установлена на фасаде дома по улице Союзная, где долгие годы жил Алексей Михайлович.