پس از بركناری پایه‌گذار نظمیه در ایران تا زمان ورود افسران سوئدی نظمیه در زمان احمد شاه قاجار و تشكیل دوباره این اداره به سبك اروپایی، ریاست نظمیه با نظامیان ایرانی بود و در این مدت اقدامات چشمگیری ازسوی آنها دیده نشد.
پس از پایان كار كنت، ریاست این اداره به عهده «میرزا ابوتراب خان نظم‌الدوله» كه مترجم مخصوص و معاون كنت بود، محول شد و پس از آن اشخاص ذیل ریاست آن را به عهده گرفتند:
میرزا عیسی وزیر مختارالسلطنه، رضا بالا (آقا بالاخان سردار)، حاج سعید‌السلطنه و اعظم‌السلطنه. در آغاز مشروطیت، ریاست این اداره را «موسیو یپرم» یكی از سران ارامنه عهده‌دار شد و او با قدرت به استقرار نظم توفیق یافت.
پس از كشته شدن او در جنگ همدان یكی از معاونان ارمنی او به نام سهراب خان و سپس مظفراعلم (سردار انتصار) ریاست نظمیه را به عهده گرفتند.
در دوران ریاست نظمیه یكی از رجال نظامی به نام «صولت نظام» كه بعد ملقب به سردار شوكت شد، مدرسه‌ای برای تربیت افسران نظمیه به ریاست و استادی سیف‌الدین بهمن تشكیل داد و در اواخر ریاست او بود كه مستشاران سوئدی به تهران وارد شدند.
اما قبل حضور دوباره مستشاران خارجی در راس نظمیه و پس از بركناری محمدعلی شاه كه به دنبال پیروزی مشروطه‌خواهان رخ داد، یپرم خان ارمنی به ریاست نظمیه منصوب شد و با وجود تحولاتی كه او در نظمیه ایجاد كرده بود، ریاست یك فرد غیرمسلمان بر نظمیه، بویژه برخوردهایی كه در آن زمان با شیخ فضل‌الله نوری صورت گرفت و نیز واقعه پارك اتابك و برخوردهایی كه با ستارخان و باقرخان انجام شد، موجب ایجاد واكنش‌هایی منفی نسبت به یپرم خان و نظمیه در گروه‌هایی از مردم گردید.