Кармелюка неоднократно арестовывали, четырежды приговаривали к ссылке на вечную каторгу в Сибирь, но каждый раз ему удавалось бежать, причем два раза из Тобольской губернии.
В 1822 году У. Кармелюк в кандалах был доставлен в Каменец-Подольскую тюрьму. Здесь он назвался чужим именем — Василием Гавриленко. Из тюрьмы он бежал, но был ранен преследователями и арестован. В феврале 1823 года состоялся суд, по которому У. Кармелюк получил 101 удар плетью, был вторично клеймен и отправлен в Сибирь. Знойную жару, осеннюю слякоть, трескучие сибирские морозы — все пришлось испытать по пути на каторгу.
В Тобольской каторжной тюрьме Кармелюк пробыл недолго. При отправке узников на работы Устин назвался винокуром. Действительно, он знал это ремесло. В конце февраля 1823 года он оказался на Ялуторовском винокуренном заводе. Осмотревшись, через несколько дней Кармелюк начал готовиться к побегу. Подобрал надежных людей. Не прошло и трех месяцев, как он с группой товарищей скрылся. Однако беглецов скоро поймали, жестоко наказали и отправили на медеплавильный завод.
От зари до зари каторжники работали на заводе, а на ночь их закрывали в острог, обнесенный высоким деревянным забором и земляным валом. И здесь Устин не думал долго оставаться. Проспали часовые, не удержали высокие заборы и огромные тюремные замки. Всю осень и зиму шел Кармелюк на родную Подолию. На Украине он вновь собирает крестьянские отряды.