Сценарий под названием "Благоразумная ведьма" был прислан на Киностудию имени Горького по почте из Белоруссии. Руководившему в то время студией Сергею Герасимову история о том, как два одиноких человека становятся друг другу родными, понравилась, и он вызвал в Москву для собеседования ее автора — Николая Фигуровского. На встрече с драматургом главным критиком сценария стал режиссер Лев Кулиджанов. Приняв к сведению его замечания, Фигуровский уехал домой, а через несколько месяцев прислал Кулиджанову исправленный вариант сценария под новым названием — "Когда деревья были большими". Перечитав его, Лев Александрович решил ставить по нему фильм.
Первыми кандидатами на роль Кузьмы были Василий Меркурьев и Борис Андреев. Меркурьеву Кулиджанов вынужден был отказать, потому что актер не мог уезжать надолго из дома по состоянию здоровья и попросил снимать деревенские эпизоды неподалеку от его дачи в Ленинградской области. Андреева же «подвела» фактура — уж очень не соответствовала его могучая фигура характеру Иорданова.
Следующим на очереди был Юрий Никулин. Однако как артист, ранее игравший только комических персонажей, будет выглядеть в непривычном для него амплуа, было неизвестно. Тем более что фильмов с Никулиным Кулиджанов не видел, а знал его только по цирковым выступлениям. Сомневался в своих силах и сам Никулин. Впоследствии Юрий Владимирович вспоминал: "Кулиджанов долго говорил о характере и судьбе Кузьмы Кузьмича. Наше представление об образе этого человека совпадало. Но я вдруг ощутил, что эту роль сыграть не смогу. Во-первых, мне сказали: «Не играйте». Но как же не играть? Все, что делал в кино до этого, я именно играл, и за это меня хвалили. Во-вторых, у Кузьмы Кузьмича в роли много текста. А я плохо запоминаю текст. И, наконец, в-третьих, я работал в цирке и боялся, что, если меня утвердят на роль, мне не удастся совместить свою работу со съемкой".
Но, несмотря на все сомнения, Никулин блестяще справился с задачей, и первая в его карьере драматическая роль стала для него настоящей актерской удачей.
Съемки фильма проходили в Москве и в Московской области — в деревне Мамонтово Ногинского района. Сцена встречи Кузьмы и Наташи снималась на железнодорожной станции «Белокаменная», расположенной на Малом кольце Московской железной дороги.
В 1962 году фильм "Когда деревья были большими" стал участником основной конкурсной программы Каннского кинофестиваля.
Интересные факты о фильме:
— На пробах Инна Гулая и Юрий Никулин играли сцену разговора Кузьмы с Наташей, во время которого девушка ела борщ. За каждый дубль, а всего их было снято пять, Гулая съедала по полной тарелке борща. В конце съемки удивленный Никулин спросил у своей хрупкой партнерши, как ей удалось так много съесть, на что Инна коротко ответила: «Волнуюсь».
— Юрий Никулин и костюмеры долго работали над внешним обликом Иорданова. Уже был подобран костюм для этого персонажа — потрепанная, помятая одежда, мешковатые брюки, пиджак с чужого плеча, темные рубашки. Но чего-то не хватало для завершенности образа. Юрий Владимирович перемерил множество головных уборов, пока не обнаружил в углу костюмерной небольшую кепку со сломанным козырьком. Когда Никулин нацепил ее на голову, всем стало понятно, что не хватало именно этой кепки.
— Фильм "Когда деревья были большими" стал дебютом в кино Людмилы Чурсиной.
— В картину не вошли несколько сцен из жизни Иорданова до отъезда. В одном из эпизодов Кузьму укусил шмель, когда он собирал в лесу ландыши. С распухшим от укуса лицом он попытался продать на базаре цветы, но рыночные торговки устроили драку с незваным конкурентом, а его самого забрали в участок подоспевшие милиционеры и посадили на 15 суток. Об этом случае в фильме осталось лишь упоминание в беседе Иорданова с участковым.