Родился 28 июля 1952 в г. Тамбове.
Около года учился в Московском станкостроительном институте.
С 1972 работает в органах внутренних дел.
В 1976 окончил Омскую высшую школу милиции МВД СССР по специальности "правоведение", затем - Академию МВД СССР.
С 1976 по 1981 работал в отделе по борьбе с квартирными кражами 4-го управления Московского уголовного розыска (МУР), с 1981 по 1986 - в отделе по раскрытию умышленных убийств МУРа.
С 1986 работал в 6-м отделе по борьбе с опасными проявлениями групповой и рецидивной преступности МУРа, с 1988 по 1992 - начальник этого отдела.
С 3 марта 1992 - начальник Регионального управления по борьбе с организованной преступностью (РУОП).
В 1993 добивается переподчинения РУОПа первому заместителю министра внутренних дел. С февраля 1993 - начальник РУОП Главного управления внутренних дел (ГУВД) г. Москвы.
Неоднократно лично участвовал в операциях РУОПа по освобождению заложников.
В 1994, за месяц до своей гибели, уголовный авторитет Отари Квантришвили в эфире Московского телеканала произнес: "Пускай
Рушайло подумает о своих детях".
С октября 1996 - первый заместитель начальника Главного управления по организованной преступности (ГУОП) МВД РФ.
22 октября 1996 В.
Рушайло дал внеочередную пресс-конференцию. По его словам, у него "не сложились отношения" с первым заместителем министра внутренних дел РФ Валерием Петровым, которого
Рушайло назвал непорядочным и ведущим себя нечестно человеком. В этот же день пресс-служба МВД сообщила об увольнении
Рушайло.
С 9 декабря 1996 - советник Председателя Совета Федерации Егора Строева по юридическим вопросам и безопасности.
С 9 мая 1998 - заместитель министра внутренних дел РФ.
С 1998 курирует деятельность Российского бюро Интерпола.
В октябре - ноябре 1998 участвовал в операциях по освобождению заложников и пленных на территории Чеченской Республики, в том числе в освобождении полномочного представителя Президента РФ в Чечне Валентина Власова и представителя Верховного комиссара ООН Венсана Коштеля.
С 20 мая 1999 - министр внутренних дел РФ.
С 14 июня 1999 - член Совета безопасности РФ.
С 20 ноября 1999 - заместитель председателя Федеральной антитеррористической комиссии.
28 марта 2001 освобожден от должности министра внутренних дел и назначен секретарем Совета безопасности РФ.
Имеет звание генерал-полковник.
Заслуженный работник МВД.
Награжден орденами и медалями. Имеет наградное оружие.
Член совета попечителей Московского Английского клуба.
Женат. Имеет троих детей.