Название Большого и Малого Ржевского переулков возникло в XVIII веке по церкви Ржевской иконы Божьей Матери (известна с 1625 года, ныне не существует) и Ржевской податной слободе XVII века, названной по этой церкви. По другой версии переулки получили название по фамилии местного домовладельца капитана Фёдора Ржевского.
Доходный дом («Дом военных») (1914, архитектор М. А. Мухин), в советское время - «5-й Дом Реввоенсовета», ныне жилой дом. Здесь жили советские военачальники Н. Ф. Ватутин (мемориальная доска) и А. В. Хрулёв, И. П. Уборевич, И. В. Тюленев (мемориальная доска, 1981, скульптор Н. А. Матвеева, архитектор С. П. Бурицкий), Я. Б. Гамарник (мемориальная доска, 1976, скульптор Ю. Л. Чернов, архитектор Ю. Е. Гальперин), П. И. Бодин, Е. А. Шиловский со своей женой Еленой Сергеевной (впоследствии ставшей женой Булгакова и основным прототипом Маргариты). В здании размещается Московская государственная творческая мастерская под руководством Алексея Рыбникова. В рамках гражданской инициативы «Последний адрес» на доме установлены мемориальные знаки с именами военных Николая Николаевича Петина и Иеронима Петровича Уборевича и его жены Нины Владимировны Уборевич, расстрелянных в годы сталинских репрессий.