Главная военная прокуратура возглавляется Главным военным прокурором, который назначается Президиумом Верховного Совета СССР по представлению Генерального прокурора СССР. Заместители Главного военного прокурора, военные прокуроры видов Вооруженных Сил СССР, военных округов, округов противовоздушной обороны, групп войск и флотов назначаются Генеральным прокурором СССР по представлению Главного военного прокурора.
Военные прокуроры армий, флотилий, соединений, гарнизонов и приравненные к ним военные прокуроры назначаются Главным военным прокурором и утверждаются Генеральным прокурором СССР.
В Главной военной прокуратуре образуется коллегия, состав которой утверждается Генеральным прокурором СССР по представлению Главного военного прокурора.