SMK NEGERI 3 JAKARTA asalnya adalah SMEA SWASTA PERGURUAN PEGANGSAAN TIMUR yang beralamat di Jalan Pegangsaan Timur No. 1 A, Berdiri tahun 1952 dengan pimpinan pertamanya seorang Pegawai Tinggi Kementrian PPK yaitu Bapak Drs. T.D. Situmorang. Dengan S.K. Menteri PPK No. 3707/B 3 Kedj/54 Tanggal 3 Juli 1954 SMEA SWASTA PERGURUAN PEGANGSAAN TIMUR dinegerikan menjadi SMEA NEGERI 2 BAGIAN KOPERASI.
Pada Juli 1955 SMEA NEGERI 2 BAGIAN KOPERASI dipindahkan ke lokasi Jalan Batu 3 Gambir menempati Gedung Yayasan Raden Saleh bersama-sama dengan SMA IV/C (SMA NEGERI 4 JAKARTA). Pada Tanggal 1 Oktober 1969 SMEA NEGERI 2 BAGIAN KOPERASI dihilangkan BAGIAN KOPERASI nya menjadi SMEA NEGERI 2 JAKARTA.
Dengan SK. Gubernur No. 738/7/73 tanggal 19-4-1973 SMEA NEGERI 2 JAKARTA dipindahkan oleh pemerintah DKI JAKARTA ke Gedung Baru di Jalan Cilacap No. 5, Menteng, Jakarta Pusat. yang penggunaannya bersama dengan SMA SWASTA API dengan aturan Pagi digunakan oleh SMEA NEGERI 2 JAKARTA, Siang Digunakan oleh SMA SWASTA API.
Pada tanggal 4 Juli 1994 SMEA NEGERI 2 JAKARTA secara resmi menempati gedung SMT NEGERI GRAFIKA secara keseluruhan, yang sebelumnya menempatinya secara bertahap mulai dari tahun pelajaran 1991-1992. Gedung ini beralamat di jalan Garuda No. 63, Kemayoran, Jakarta Pusat. Berdasarkan SK. Mendikbud 036/0/1997 tanggal 7 Maret 1997 nama SMEA NEGERI 2 JAKARTA berubah menjadi SMK NEGERI 3 JAKARTA.