Портрет написан в период, когда Репин завершал свое образование в Академии художеств в Петербурге. Для участия в академическом конкурсе он писал полотно на евангельский сюжет «Воскрешение дочери Иаира» (1871, Русский музей). Работая над этим замыслом, художник штудировал образцы высокого классического искусства. Так появился «Портрет старушки» – копия с одноименной картины Рембрандта (1654, Эрмитаж). Тогда же художник исполнил большую графическую копию с «Портрета старика в красном» Рембрандта (начало 1870-х, Музей-усадьба «Пенаты).
Повторения картин старых мастеров нередко носили сугубо ученический характер и контрастировали с самостоятельными работами их создателей. Однако «Портрет старушки» не был случайным эпизодом в творческой судьбе Репина: копирование шедевра способствовало развитию его индивидуальной манеры. Широкие мазки живописи с открытой фактурой, различной плотности и направления, красновато-бурая красочная гамма «Портрета старушки» созвучны стилистике многих самостоятельных портретов Репина последующих лет. Рембрандт всегда оставался его любимым мастером.
В 1870-е годы рембрандтовские образы стариков витали в сознании молодого художника как воплощение человеческой глубины и мудрости. Так, увидевшись в Петербурге со странницей из родного Чугуева, «благочестивой старушкой», Репин запомнил ее опрятность и добрый характер. Позднее он вспоминал о ней: «У Рембрандта в Эрмитаже точь-в-точь такая старушка», подразумевая другое полотно художника.
Портреты стариков, написанные с натуры, особенно удавались молодому Репину, оставившему на родине мать и отца. Можно предположить, что он не случайно выбрал для копирования именно портрет старушки, как особенно близкую его душе тему. Стилистика рембрандтовской живописи стала для мастера не только незыблемым художественным идеалом, но и эстетическим ориентиром при создании портрета отца – Е.В. Репина (1883, Русский музей).
Современники называли художника «русским Рембрандтом».