Яков Аргунов родился в 1784 году. Младший сын крепостного художника Ивана Петровича Аргунова, который стал его первым учителем. В 1816 году, вместе с братьями, получил вольную от графа Д. Н. Шереметева, согласно воле его отца, изъявленной в завещании последнего. Начиная со 2 января 1817 года Яков Иванович Аргунов работал учителем рисования в московском Якиманском уездном училище. С 15 марта 1818 года Аргунов преподавал искусство рисования в Первой Московской гимназии. Я. И. Аргунов рисовал портреты известных персоналий, преимущественно для московского издания Николая Николаевича Бантыша-Каменского. Перу художника принадлежат 22 портрета, на которых изображены ближайшие сподвижники Петра Великого: Ф. Н. Апраксин, Ф. Я. Лефорт, А. Д. Меньшиков и другие.