Родился в 1879 г. Место рождения: с. Шенхен Унтервальденского р-на Республики немцев Поволжья.
Последний раз Иосиф Яковлевич Циммерман был арестован 4 августа 1937 г.
Приговор вынесен тройкой при УНКВД СССР по Московской обл. 10 сентября 1937 г. Был расстрелян 14 сентября 1937 г. на Бутовском полигоне НКВД под Москвой. Реабилитирован 3 июня 1970 г. за отсутствием состава преступления.