Родился в 1895 г. Место рождения: Донская обл., хут. Донской Елизаветовской станицы.
Русский.
Получил среднее образование.
Род деятельности к моменту ареста - "фабрика Трехгорной мануфактуры им.Дзержинского: шофер". Был беспартийным.Последний раз Иван Михайлович Терновой был арестован 15 сентября 1937 г.
Приговор вынесен тройкой при УНКВД СССР по Московской обл. 8 октября 1938 г. Был расстрелян 11 октября 1937 г. на Бутовском полигоне НКВД под Москвой. Реабилитирован 12 августа 1955 г. за отсутствием состава преступления.