На следующий год «Красное Знамя» (так называлась команда в первые свои три года) пополнилось рядом опытных игроков — А. Ильиным и В. Артемовым, А. Борозной и Я. Рудерманом, а также молодыми местными футболистами Ю. Криворотом, Е. Тихоновым, В. Самошкиным, Г. Старовойтовым, которые существенно укрепили коллектив. В этом сезоне команда порадовала болельщиков красивой и результативной игрой. Ведущая роль в коллективе принадлежала А. Ильину, форварду с ярко выраженными диспетчерскими качествами. Он вместе с полузащитниками В. Артемовым, А. Гиршиным и Г. Леладзе отлично использовал умелую игру центрфорварда А. Борозны, который в том сезоне провел в ворота соперников 23 мяча и был одним из самых результативных нападаюиуиьзоны, крайних нападающих Б. Насенникова, Я. Рудермана, В. Самошкина. Успешно играли и защитники Е. Матус, М. Свирид, Р. Уханов, вратарь Г. Старовойтов.
Однако первый успех витебчан оказался кратковременным. После того как ведущие игроки покинули команду (А. Борозна, например, был приглашен в «Беларусь»), понадобилось несколько лет для создания боеспособного и дружного коллектива. В 1965 году «Двину» возглавил А. Ильин, который за несколько лет до того отлично проявлял себя в качестве игрока. Он пригласил в команду молодых, интересных футболистов — В. Кузнецова, С. Солдатова, В. Трубицина и других. Заняв в этом году шестое место, «Двина» добилась своего наибольшего успеха.
После этого последовал период неудач. Причин тому несколько. Одна из них заключалась в том, что команда в основном пополнялась приезжими игроками. Отыграв один-два сезона, они покидали коллектив. И каждой весной тренерам приходилось, по сути дела, начинать все с самого начала. Кроме того, некоторые лучшие игроки «Двины» были переведены для укрепления ведущих белорусских команд. Так оказались в Гомеле, Гродно и Бресте Ю. Грищенко, Л. Кривоносое, Г. Старовойтов, Е. Тихонов, И. Щекин и многие другие. В результате «Двина» занимала места, как правило, в нижней части турнирной таблицы, а в 1966 году и замкнула ее.
С середины 70-х годов руководство «Двины» взяло курс на комплектование команды местными футболистами. Один за другим в «Двине» появляются В. Бирюков, М. Кириченко, Г. Кондратьев, Л. Назаренко, В. Равков, А. Щупак.