Kantor Pelayanan Perbendaharaan Negara Makassar II dibentuk berdasarkan Keputusan Menteri Keuangan RI Nomor 303/KMK.01/2004 tanggal 23 Juni 2004 tentang Organisasi dan Tata Kerja Kantor Wilayah Direktorat Jenderal Perbendaharaan dan Kantor Pelayanan Perbendaharaan, merupakan unit terdepan Ditjen Perbendaharaan dalam memberikan pelayanan pencairan dana APBN, penatausahaan penerimaan negara, dan penyusunan laporan keuangan kantor/satuan kerja instansi pemerintah.

Perjalanan sejarah mencatat bahwa, sejalan dengan pengembangan organisasi dalam tubuh Ditjen Perbendaharaan, keberadaan KPPN Makassar II telah mengalami dua kali perombakan. Pertama kali dibentuk pada tahun 1990 dengan nama Kantor Pelayanan Perbendaharaan dan Kas Negara II (KPKN II) kemudian pada tanggal 2 januari 2002 dimerger / digabungkan menjadi satu kantor antara KPKN I dan KPKN II. Gabungan dua kantor ini kemudian diberi nama Kantor Pelayanan Perbendaharaan Makassar (KPPN Makassar) yang dipimpin oleh Drs. Siswo Sujanto, DEA. Kemudian pada tahun 2005 berdasarkan  Keputusan Menteri Keuangan Nomor 214/KMK.01/2005 tanggal 2 Mei 2005. Pembukaan kembali di tahun 2005 adalah untuk lebih mempertajam fungsi Bendahara Umum Negara dalam meningkatan kinerja percepatan penyaluran dana APBN, penatausahaan setoran penerimaan negara dan pelaporan keuangan pemerintah. Pada periode ini kantor Pelayanan Perbendaharaan Makassar II di pimpin oleh Drs. Trisno Hadi

Selanjutnya, dengan Keputusan Direktur Jenderal Perbendaharan  Nomor Kep-172/PB/2007 tanggal 26 Juli 2007 KPPN Makassar II ditetapkan sebagai KPPN Percontohan, salah satu dari 18 KPPN Percontohan yang dibuka di 17 Provinsi dan dipimpin oleh Drs. Djadid Radjim. Pembentukan KPPN Percontohan ini merupakan implementasi dari reformasi birokrasi dalam jajaran Kementerian Keuangan khususnya lingkup Direktorat Jenderal Perbendahraan, dengan konsep pelayanan satu atap (one stop service) bisinis proses berdasarkan fungsi (front office, middle office, dan back office) yang didukung dengan teknologi informasi (IT), informasi real time, transparan, dan akuntabel. Tanggal 14 Januari 2009,  Mas Heru Prabowo, S.E., M.M ditetapkan sebagai pengganti. Selanjutnya terhitung sejak tanggal 23 Juni 2010 Menteri Keuangan melalui Surat Keputusan Nomor 465/KM.1/UP.11/2010 menetapkan Drs. Dedi Sopandi sebagai Kepala KPPN Makassar II hingga bulan Nopember 2011. Selanjutnya, tampuk kepemimpinan KPPN Makassar II berpindah ke Sukemi Mumpuni, SE. Setelah kurang lebih selama 2,5 tahun beliau memimpin KPPN Makassar II, posisi Kepala Kantor berpindah ke bapak Teddy, S.T. terhitung mulai bulan Januari 2014. Mulai tahun 2017, KPPN Makassar II dipimpin oleh Wimpie Defianto, S.E. sampai tahun 2019. Mulai 14 Juni 2019 - sekarang KPPN Makassar II dipimpin oleh Adi Setiawan, S.E., Sst.Akt., MPPM.