В 1962 году из печати вышел новый роман писателя-фронтовика Юрия Бондарева «Тишина». Существенные перемены, происходившие в тот период в нашей стране и называемые «хрущёвской оттепелью», позволили автору реально отобразить послевоенную жизнь советских людей, то есть со всей откровенностью поведать читателям о всём драматизме сталинского времени.
Сюжетная линия романа, повествующая о превратностях, которые судьба преподнесла прошедшему через военные трудности фронтовику, орденоносцу, командиру артиллерийской батареи Сергею Вохминцеву, сразу привлекла внимание талантливого режиссёра Владимира Басова. Будучи художником большого профессионального мастерства, для музыкального оформления фильма Владимир Павлович пригласил композитора Вениамина Баснера и поэта Михаила Матусовского, с которыми плодотворно работал над предыдущей своей кинолентой «Битва в пути». Перед композитором и поэтом Басов сразу поставил задачу: для фильма нужны две композиции: одна лирическая, а другая – песня-воспоминание о минувших фронтовых буднях и тех воинах, кто ради Победы погиб, не жалея своей жизни. При этом Владимир Павлович – мастер точного видения, уточнил, что именно эта эмоционально-возвышенная, но в то же время душевная композиция, отражающая солдатскую братскую сплочённость, в фильме должна быть главной.
Поставленная режиссёром задача, заставила Михаила Матусовского, который с первого до последнего дня во время войны служил в разных фронтовых газетах, вспомнить об журналистских наработках, оставшихся в его армейских блокнотах. В них сохранилось немало героических историй, которые поэт не успел использовать в очерках и заметках. Просматривая свои корреспондентские черновики, Михаил Львович заострил своё внимание на записях, сделанных, когда был военкором Второго Белорусского фронта. Солдатские подвиги, которые Матусовский освещал в газете были в то время обычным явлением, но, чтобы собирать интересный материал, ему приходилось много беседовать с солдатами и офицерами. Так однажды, одну, заслуживающую особого внимания жестокую схватку, которая входила в число так называемых боёв местного значения, ему описал редактор дивизионной многотиражки «Сталинский призыв» Николай Чайка. Он поведал, что группа из восемнадцати бойцов-сибиряков, захватив неприступную высоту, располагавшуюся неподалёку от поселка Рубежанка, всю ночь вела сражение с сильно превосходящими силами противника. В масштабах большой войны - это был маленький эпизод, однако значение его было очень велико, так как смелая операция помогла нашим войскам кардинально изменить положение дел на фронте: нанести сокрушительный удар по немцам и тем самым открыть путь на город Рославль.
Об этом подвиге отважных восемнадцати сибиряков Михаил Львович поведал Владимиру Басову, и тут же получив одобрение, в короткий срок сочинил прекрасные стихи – воспоминание, основанные на данном военном событии. Поэтический текст был предельно приближен к реальности, однако Матусовский всё же допустил одну неточность: в том смертельном бою в живых осталось не трое бойцов, как поётся в песне, а двое.
Стихи Михаила Львовича взволновали, как режиссёра, так и композитора, который, не теряя времени, приступил к сочинению мелодии. Однако первый, второй, третий музыкальные варианты песни, предложенные им вниманию Басова, Матусовского и старшего музыкального редактора киностудии «Мосфильм» Раисы Лукиной, были категорично отвергнуты. Полностью отчаявшись, Баснер уже решил отказаться от сочинения музыки к фильму и вернуться домой в Ленинград. Предупредив о своём намерении режиссёра, который попытался подбодрить композитора и уговаривал продолжить работу, Вениамин Ефимович всё же купил билет на поезд. Усевшись удобно в вагоне в кресло, а поскольку на душе было очень скверно, он решил на что-нибудь отвлечься, однако в голове навязчиво крутились стихи о «Безымянной высоте». Так, постепенно, под стук колёс стала вырисовываться совершенно иная мелодия, которая Вениамину Ефимовичу показалась весьма удачной. Как назло, композитор не мог её записать, так как у него с собой не было ни блокнота, ни бумажного листочка. Чтобы не забыть мотив, Баснер всю дорогу его напевал, а приехав домой, не откладывая отобразил на листе нотной бумаге. Затем он позвонил в Москву Матусовскому и сообщил, что песня наконец-то получилась. Наутро Баснер был уже в столице. В киностудии с довольным видом он сел за рояль, чтобы проиграть новую мелодию, но исполнив композицию, восторженных отзывов опять не услышал. Тем не менее дирекция фильма всё же приняла решение песню записать с оркестром, а в качестве вокалиста пригласить Льва Барашкова, который прославился исполнением композиции «Главное, ребята, сердцем не стареть».
После записи песни «На безымянной высоте» звукооператор весь вечер, а затем и в последующие дни безостановочно прокручивал эту плёнку. В итоге вся студия знала композицию наизусть и это было хорошим знаком. Действительно, после выхода на экраны киноленты «Тишина», песня сразу нашла отклик в сердцах советских зрителей и её запела вся страна. Впоследствии композиция «На безымянной высоте» вошла в репертуар таких известных исполнителей, как Юрий Гуляев, Борис Штоколов, Марк Бернес, Юрий Богатиков, Эдуард Хиль, Ренат Ибрагимов, Иосиф Кобзон, Дмитрий Хворостовский.