Одним из лучших произведений И.Я. Гинцбурга стал портрет В.В. Верещагина. За него в 1900 году скульптор был удостоен первой золотой медали на Всемирной выставке в Париже. Портретная статуэтка раскрывает образ живописца за работой. В небольшой композиции ярко отражены характерные особенности его личности. В своих воспоминаниях о работе над портретом В.В. Верещагина Гинцбург писал: «Эта осанка, вся эта крепкая, величественная фигура со всегда гордо поднятой головой выражали энергию, силу воли и решимость – качества, которыми Верещагин действительно обладал».

Художник позировал скульптору без отдыха, не отрываясь от мольберта. Во время сеансов он рассказывал о своих путешествиях, которые произвели на Гинцбурга большое впечатление. Повести о войне, культуре разных стран, рассуждения об искусстве открывали перед ваятелем глубину натуры Верещагина. Цельность личности, живость и энергию великого баталиста Гинцбург смог запечатлеть в созданном им скульптурном образе. Работа над портретом длилась всего несколько дней. Перед ее началом Верещагин поставил условие: «Я нарочно останусь для вас денек-другой. Буду у вас стоять весь день, но смотрите, в четыре дня кончайте. Я буду в это время писать. Купите холст и подрамки; краски у меня есть».

Скульптуры Гинцбурга отличаются живостью и очарованием. Мировоззрение скульптора формировалось под влиянием художников-реалистов. Ранние годы его творчества неразрывно связаны с М.М. Антокольским, В.В. Стасовом и И.Е. Репиным, которые ввели молодого мастера в круг деятелей отечественной художественной культуры. В творческом наследии Гинцбурга существует целая серия скульптурных портретов, куда вошли изображения В.И. Сурикова, И.И. Шишкина, В.В. Верещагина и других.