Начавшиеся военные действия потребовали концентрации усилий всех правоохранительных органов для достижения единой цели — победы над врагом. На повестку дня встал вопрос о слиянии органов государственной безопасности и внутренних дел, находившихся в процессе реорганизации. Централизация управления позволяла сосредоточить в одном ведомстве борьбу с преступлениями против государства, уголовной преступностью, выполнение задач по охране тыла, особо важных объектов, государственной границы и решение других вопросов. 20 июля 1941 года издается указ Президиума Верховного Совета СССР об объединении НКГБ СССР и НКВД СССР в единый Народный комиссариат внутренних дел СССР, который возглавил Л. П. Берия. Произошли изменения и в территориальных органах. Областные Управления госбезопасности и внутренних дел объединили в единое Управление НКВД (УНКВД ЯО), ликвидировались межрайотделы и межрайотделения УНКГБ, которые вливались в состав городских и районных отделов и отделений (ГО и РО) НКВД.

    Областное Управление НКВД с августа по сентябрь 1941 года возглавлял капитан госбезопасности П. П. Кондаков, а с октября 1941 года — майор государственной безопасности В. В. Губин. В состав областного Управления НКВД вошли: контрразведывательный отдел (КРО), секретно-политический отдел (СПО), экономический отдел (ЭКО), 1-й, 2-й и 3-й спецотделы, 4-й и 5-й отделы. Для повышения эффективности следственной работы организовали следственные отделения при контрразведывательном, секретно-политическом, экономическом отделах.

    Созданная структура просуществовала почти в неизменном виде около двух лет. Указом Президиума Верховного Совета СССР от 14 апреля 1943 года из состава НКВД СССР вновь, как и в 1941 году, был выделен самостоятельный Наркомат государственной безопасности СССР (НКГБ СССР). На него возложили ведение разведывательной работы за границей; борьбу с подрывной, шпионской, диверсионной, террористической деятельностью иностранных разведок внутри СССР (за исключением вооруженных сил); борьбу с антисоветскими элементами и проявлениями; охрану руководителей партии и правительства.

     Структура НКГБ СССР определялась решением Политбюро от 14 апреля 1943 года “Об образовании НКГБ СССР” и в этот же день была объявлена постановлением СНК СССР N 393-129сс. В территориальных органах вновь образовали самостоятельные областные управления НКГБ и НКВД. В Ярославле их возглавили соответственно Н. А. Кримян и В. В. Губин. Их структура и задачи в основном соответствовали довоенному периоду. Были сформированы периферийные аппараты органов госбезопасности (городские, районные отделы и отделения НКГБ) и внутренних дел (городские, районные отделы и отделения НКВД), которые просуществовали практически без изменений до конца войны.