В 1890 году Шишкин исполнил для юбилейного собрания сочинений М.Ю. Лермонтова в трех томах иллюстрацию к стихотворению «Сосна», вызвавшую восторженные отзывы. Вдохновленный этим, художник принял решение написать живописную картину на этот же сюжет, назвав ее по первой строчке лермонтовского стихотворения.

В это время художник несколько раз зимой гостил у дочери в имении Мери-Хови в Куоккале на берегу Финского залива, чтобы изучать зимний ландшафт. Удивительно, что небольшая зарисовка – единственная подготовительная штудия к монументальному живописному полотну. Возможно, причина этого – в уже существовавшей иллюстрации, где найдены композиционное решение и основные тональные соотношения, практически повторенные в картине. Эскиз картины, скорее всего, определил ее цветовое решение. Он исполнен на синей бумаге, на которой особенно эффектен темный силуэт сосны и сверкание белильных бликов, передающие ощущение морозной зимней ночи. Этот синий тон Шишкин сохраняет и в живописном полотне. Картина «На севере диком...» экспонировалась на 19-й выставке ТПХВ (1891). Сохранился отзыв видевшего ее художника В.К. Бялыницкого-Бирули: «Я убежден, что если бы Лермонтов увидел картину Шишкина, он был бы счастлив».