Масштабное полотно «У берегов Кавказа» входит в число произведений, сюжет которых основывается на аллегорическом противостоянии человека и могущественной морской стихии. Тема кораблекрушения в творчестве Айвазовского играет важную роль. Начиная с 1850 года, когда был создан «Девятый вал» (Государственный Русский музей), мастерство художника в изображении бури на море совершенствовалось с каждым последующим десятилетием. В 1870-е годы на эту тему им были исполнены «Радуга» (1873, Государственная Третьяковская галерея) и «Буря у мыса Айя» (1875, Государственный Русский музей), а в 1885 году написана картина «У берегов Кавказа».

В этой работе художник заметно изменил композицию и усилил драматический эффект за счет контрастной светотеневой моделировки. Попавший в смертельную бурю корабль представлен в новом ракурсе, при котором есть возможность рассмотреть в деталях его полузатопленную палубу и тревожные перемещения матросов. Состояние разбушевавшейся стихии передано мастером крайне убедительно. Вспышки молний, разрезающих мрак грозовых туч, с художественной убедительностью исполненные Айвазовским, отсылают к одному из самых драматических полотен русского искусства начала XIX века – «Последнему дню Помпеи» (1883, Государственный Русский музей) Карла Брюллова. Выбранный художником колорит соответствует естественной гамме морской стихии в момент большого шторма. Сочетание разных оттенков зеленого и синего, мастерски подобранное Айвазовским для передачи прозрачной морской волны, можно встретить и в других произведениях великого мариниста этого времени, например в картине «Буря на Азовском море в апреле 1886 года» (1886, Ярославский художественный музей), а также на грандиозном полотне «Волна» (1889, Государственный Русский музей).