В конце 1890-х годов Борисова-Мусатова увлекла идея создания масштабного по замыслу произведения, которым стала «Гармония». Началом работы над картиной традиционно считается этюд, созданный в 1894 году в имении Слепцовка Саратовской губернии (не сохранилось), где управляющим был крестный отец художника Д.О. Гаврилов. Затем появился эскиз, датированный автором 1897 годом.

Когда работа над полотном была почти окончена, Борисов-Мусатов остался недоволен результатом: «Теперь я вижу вновь, что мой петиметр (фр. устар. молодой щеголь, франт) ни к черту не годен. Моя картина невозможна. Я просто в отчаянии. Опять все вновь переписывать, переделывать!»

После мучительных размышлений Борисов-Мусатов приступил к созданию нового варианта картины, для чего ему была предоставлена мастерская в Радищевском музее в Саратове — он получил возможность писать в окружении полотен старых европейских мастеров, гобеленов и антикварной мебели. Первоначальное же произведение, как считается, было уничтожено автором накануне переезда в Москву в 1903 году.

В роли молодого поэта, декламирующего стихи, запечатлен сельский учитель из Слепцовки. Младшая дочь Гаврилова Елизавета изображала старушку на скамейке, а для обеих барышень на переднем плане позировала постоянная модель художника — его сестра Елена, в сшитом их матерью «старинном» платье.

В одном из писем художник описал процесс создания второй «Гармонии» в стихах и дополнил его комментарием: «Я кончаю свою картину. <...> Я старался выразить эту идею гармонии. А кругом меня все диссонансы, от которых я нигде не могу скрыться».

О значении этого произведения в творчестве Борисова-Мусатова рассуждал уже его первый биограф В.К. Станюкович: «Влияние Ватто и душевные переживания художника диктовали ему иное разрешение задачи, но увлекшись холодящими синими тонами, строгостью и простотою линий, побуждаемый к тому сумеречным тоном и примером Пювис де Шаванна, Мусатов дает совершенно неожиданную вещь. <…>

Несмотря на многие недостатки, картина производит музыкальное впечатление, именно то, на которое она рассчитана как „гармония“».

Картина выполнена маслом и темперой на крупнозернистом холсте, плетение которого просматривается. Впоследствии использование выразительных возможностей материала станет характерным для художника приемом. В колорите «Гармонии» преобладают узнаваемые «мусатовские» оттенки холодных и теплых пастельных тонов. Так, строго рациональный подход к конструированию композиции сочетается в картине с интуитивными попытками выражения мира чувств.

Многочисленные эскизы и этюды к картине хранятся в различных музеях и частных собраниях.