Защищали город части 56-й армии РККА, под командованием генерала Ф.Н. Ремезова, в состав которой наряду с другими частями входили 339-я Ростовская стрелковая дивизия и Ростовский стрелковый полк народного ополчения, сформированные из местных жителей.
20 ноября войска вермахта вошли в город. 1-й батальон дивизии СС прорвался к железнодорожному мосту и захватил его невредимым.
Через неделю, 28 ноября, советские войска под командованием маршала С. К. Тимошенко предприняли контрнаступление и отбили город. Освобождение Ростова стало первой значительной победой Красной Армии в начальный период войны.
Ростов оставался советским до июля 1942 года, когда после провала наступления Красной Армии под Харьковом немецкое командование начало наступление на Кубань и Кавказ. 24 июля 1942 в Ростов вошла 17-я армия вермахта. На этот раз советские войска не оказали врагу должного сопротивления, что было отмечено в тексте известного приказа НКО № 227 — «Ни шагу назад!».
Местом массового уничтожения советских людей стала Змиевская балка на окраине города, где гитлеровцы расстреляли и умертвили 27 тысяч человек. Всего нацистами было уничтожено более 40 тысяч человек, 53 тысячи ростовчан было угнано в Германию на принудительные работы.
Война нанесла городу большой ущерб: Ростов-на-Дону вошёл в число десяти наиболее пострадавших от войны городов России. В городе в ходе боевых действий было уничтожено около 12 тыс. домов.
14 февраля 1943 года после победы под Сталинградом в ходе общего наступления Красной Армии, Ростов-на-Дону был окончательно освобожден от немецких войск.