当德国最高统帅部忙于挑选军队时，斯大林感觉到希特勒企图包围罗斯托夫的苏联主力部队。为了尽可能多地保存军事力量，斯大林于7月15日作出决定，将南方军撤退到顿河下游的另一边，与北高加索军第51军配合，从上库尔莫的亚尔斯卡娅向巴加耶夫的斯卡娅进行防御。士兵很贵。

7月16日，苏军第12军放弃伏罗希洛夫格勒，逃出米列罗沃包围圈的第37、24、9军一起向南撤退。第二天，伏罗希洛夫格勒被德军第4集团军占领。然而，德国人这次又扑向了空。7月19日，苏联南部军队撤退到辛戈什-兹韦列沃-基·亚科沃一线。然后继续向南边的顿河撤退。

当然，德国人不能轻易放过苏联人。德国第17军和第1、第4装甲军追击罗斯托夫和顿河两岸。7月21日，德军第4装甲军在罗斯托夫以东渡过顿河，而第17集团军则向罗斯托夫以西、前方顿河附近推进。大批德国军队涌向顿河河畔的罗斯托夫。这是一次激动人心的胜利行军。夏日的阳光下，德国战车上的锦旗飘扬，激动的德国坦克军官们驾驶着自己的下属加快速度，互相比较谁能先到达罗斯托夫。德国步兵只能慢慢地走，吃着灰尘，无精打采。

就这样，德军第3装甲军和第125步兵师从北面逼近罗斯托夫；第57装甲部队从西面逼近罗斯托夫。7月21日，德军抵达罗斯托夫外围。7月23日，德军开始进攻该城，第125步兵师在第13装甲师的配合下直接闯入该城，与苏军展开了激烈的巷战。第二天，德国第49山地军先头部队也赶到罗斯托夫进攻。与此同时，第13装甲师和维京师绕到南方，试图切断苏军的退路。但是顿河大桥被苏联炸毁了。此时，苏联驻军已逐渐撤出罗斯托夫。剩余的警卫部队与德军第125师在该城战斗至27日。