SMP Negeri 2 Jatirogo berdiri di atas lahan tanah milik Angkatan Darat. Sejak 7 Agustus 1961, SMP ini telah mengalami perubahan nama dan status. Awal berdiri sekolah ini memakai nama Sekolah Teknik Negeri (STN) kemudian berubah menjadi  Sekolah Menengah Pertama Yang disempurnakan (SMPY) dan akhirnya berubah lagi menjadi Sekolah Lanjutan Tingkat Pertama (SLTP) dan sekarang berubah lagi menjadi Sekolah Menengah Pertama (SMP) Negeri 2 Jatirogo.