Родился в 1896 г. Место рождения: Виленская губ., г. Троки.
Получил среднее образование.
Род деятельности к моменту ареста - "трест 'Союзбумстрой': начальник сектора". Был член ВКП(б) с 1919.Последний раз Ян Иосифович Жилинский был арестован 8 июля 1938 г.
Приговор вынесен Комиссией НКВД и Прокуратурой СССР 29 июля 1938 г. Был расстрелян 27 августа 1938 г. на Бутовском полигоне НКВД под Москвой. Реабилитирован 8 мая 1957 г. за отсутствием состава преступления.