В 1919 году Президиум ВЧК принял решение о создании постоянных курсов по подготовке новых сотрудников-чекистов. В августе 1923 года постоянные курсы были преобразованы в Высшие курсы ГПУ. В июле 1927 года Высшие курсы ОГПУ были реорганизованы в Школу по переподготовке работников внутренних органов. 4 июля 1930 г. учебное заведение было переименовано в Центральную школу ОГПУ. В марте 1938 года Центральная школа была переименована в Высшую школу НКВД.
В период Великой Отечественной войны в школе было подготовлено более семи тысяч чекистов, ставших организаторами борьбы с фашистами. Шестеро выпускников Высшей школы стали Героями Советского Союза — Д. Н. Медведев, В. А. Молодцов (посмертно), A. M. Рабцевич, В. А. Лягин (посмертно), П. А. Жидков и Е. И. Мирковский.
30 августа 1945 года Высшая школа НКВД указом президиума Верховного Совета СССР была награждена Красным Знаменем и Грамотой. 15 июля 1952 года постановлением Совета министров СССР на базе Высшей школы и Школы следственных работников МГБ СССР была создана Высшая школа МГБ СССР. Постановлением Совета Министров СССР от 2 августа 1962 года Высшей школе КГБ было присвоено имя Ф. Дзержинского.
