Ústav bol zriadený k 1. januáru 1971 v budove bývalého dievčenského internátu strednej zdravotníckej školy. Okrem vyšetrovacej väzby pre oblasť severného Slovenska (Kysuce, Liptov, Orava) sa v ňom vykonával aj výkon trestu odňatia slobody odsúdených mužov zaradených do I. nápravnovýchovnej skupiny. Pracovne boli zaradení prevažne v stavebníctve, drevospracujúcom priemysle a na železnici. V rokoch 1971 až 1973 sa pristavili nové objekty a celý areál bol dobudovaný v roku 1975. V ďalších rokoch sa ústav priebežne modernizoval až k dnešnej podobe. 

Od roku 1990 bol ústav určený pre výkon väzby mužov, žien a mladistvých okresov Žilinského kraja, okresu Považská Bystrica a od júna 2003 do januára 2010 aj pre Okresný súd Prievidza. Zároveň si v ňom odpykávali trest odňatia slobody odsúdení zaradení do II. nápravnovýchovnej skupiny. Kategória odsúdených vo výkone trestu odňatia slobody sa v ústave zmenila v septembri 2012, a to zo stredného stupňa stráženia na minimálny stupeň stráženia. 

Dňom 1. októbra 2015 sa Ústav na výkon väzby Žilina reprofiloval na Ústav na výkon väzby a Ústav na výkon trestu odňatia slobody Žilina. V rovnakom roku boli popri existujúcich pracoviskách vo vnútornej prevádzke ústavu zriadené pre odsúdených aj dve pracoviská mimo ústavu a jedno pracovisko v ústave v rámci strediska vedľajšieho hospodárstva. Výkon väzby v súčasnosti ústav zabezpečuje pre obvinených z celého Žilinského kraja a Okresný súd Považská Bystrica patriaci do Trenčianskeho kraja. Okrem výkonu väzby a výkonu trestu odňatia slobody zabezpečuje ústav prostredníctvom príslušníkov úseku justičnej stráže aj ochranu poriadku a bezpečnosti v šiestich objektoch súdov a prokuratúr.