Родился в станице Упорной в 1898 году. Был мобилизован Упорненским РВК. По заявлению жены, Литвиновой Марии Ивановны, связь с семьей прервана с 18 декабря 1943 года. Признан пропавшим без вести с марта 1944 года. Имя Иосифа Гавриловича Литвинова внесено в 3-й том Книги Памяти Краснодарского края.