Родился в 1880 г. Место рождения: Речицкий р-н (БССР), дер. Запсы.
Последний раз Иосиф Иванович Гарай был арестован 14 марта 1937 г.
Приговор вынесен Тройкой при УНКВД СССР по МО 19 марта 1938 г. Был расстрелян 25 марта 1938 г. на Бутовском полигоне НКВД под Москвой. Реабилитирован 27 июня 2001 г. за отсутствием состава преступления.