Колосков был арестован в г. Баку при попытке уехать за границу. Арестованы были секретарь общины Мария Яковлевна Захарова и многие другие верующие из "Общества трезвенников". Их привезли в Москву, и в течение 6 месяцев держали под следствием, а затем, осужденные при закрытых дверях "тройкой", они получили приговор. Ивана Колоскова осудили на 10 лет, а Марию Захарову на 5 лет политического изолятора с содержанием в одиночной камере. Их отправили в Ярославский политизолятор и поместили в камеры по соседству. Иногда, при выходе на прогулку, они могли издали видеть друг друга. В 1932 году Колоскову запретили вести переписку с женой и детьми, запретили иметь личное свидание с сыновьями. Иван Николаевич попросил прокурора по надзору восстановить эти его скудные права узника, но ему было отказано. Тогда он объявил голодовку. На пятые сутки об этом стало известно некоторым заключённым и администрации. Надзиратели облили его холодной водой из брандспойта - у него был в то время туберкулёз гортани - и посадили в сырой карцер в подземной части тюрьмы. Другие заключённые, в знак солидарности с голодающим Колосковым, стали стучать в двери и подняли большой шум. Через час Колоскова возвратили в его камеру. Методом перестукивания он сообщил Захаровой, что его чуть ли не задушил "Генерал" (это была кличка одного из самых свирепых надзирателей по карцеру). На следующее утро Захарова услышала слабый голос Колоскова, доносившийся через раскрытые окна: "Я умираю!" Мария Захарова стала стучать, чтобы пришёл надзиратель, но никто не явился. Вечером того же дня, возвращаясь с тюремной прогулки, Захарова увидела кучку мусора и кусочки хлеба около двери камеры Колоскова - верный признак того, что пустую камеру уже убрали заключенные из хозяйственной обслуги. Некоторые из заключённых, видевшие, как выносили тело Колоскова, долго скрывали от нее смерть Ивана Николаевича из жалости к ней, зная ее привязанность к своему пастырю.