Отряд специального назначения «Витязь» был создан 29 декабря 1977 года приказом министра внутренних дел СССР генерала армии Н.А. Щелокова на базе 9-ой роты 3-го батальона 2-го полка Отдельной мотострелковой дивизии особого назначения (ОМСДОН) имени Ф. Дзержинского.
Это было первое в системе МВД подразделение спецназа. Кандидатов отбирали из числа лучших спортсменов дивизии на добровольной основе – обладающих хорошей физической формой и психологической устойчивостью. В 1989 году рота стала батальоном, который в 1991 году стал отрядом специального назначения «Витязь».
В 1980 году «Витязь» обеспечивал безопасность участников Московской Олимпиады. В 1981 году бойцы отряда освобождали детей, захваченных террористами в одном из сел близ Ижевска. В 1986 году они уничтожили группу преступников, пытавшихся захватить самолет в Уфе. В 1990 году «Витязь» совместно с группой «Альфа» освобождал захваченных бандитами заложников в Сухумском следственном изоляторе.
Отряд специального назначения «Витязь» участвовал в разрешении практически всех межнациональных конфликтов на территории бывшего СССР.
В 1994-1996 годах «витязи» принимали участие в разоружении незаконных вооруженных формирований на территории Чечни. С 1999 года они снова выполняли задачи в ходе контртеррористической операции на территории Северного Кавказа. Отряд «Витязь» участвовал в спецоперации по освобождению заложников, захваченных террористами на мюзикле «Норд-Ост» в Москве в 2002 году.
В 2008 году путём слияния отряда «Витязь» с отрядом специального назначения «Русь» сформировали 604-й Центр специального назначения внутренних войск МВД России. Символом бойцов Центра остался краповый берет, принятый «витязями» еще в 80-х.