KPPN Balikpapan bermula dari Kantor Bendahara Negara (KBN) dan Kantor Kas Negara (KKN) yang berdiri pada tahun 1974 merupakan kantor vertikal dibawah Kantor Wilayah Direktorat Jenderal Anggaran Banjarmasin dan berada pada satu gedung yang sama yaitu Gedung PU yang bertempat di Klandasan, Balikpapan.
Pada tahun 1980-an, Kantor Bendahara Negara berganti nama menjadi Kantor Perbendaharaan Negara (KPN) dan pindah menempati Gedung Keuangan Negara Balikpapan. Pada tahun 1990, berdasarkan KMK tanggal 12 Juni 1989 Nomor 645/KMK.01/1989 terjadi integrasi antara Kantor Perbendaharaan Negara (KPN) dengan Kantor Kas Negara (KKN) menjadi Kantor Perbendaharaan dan Kas Negara (KPKN). Selanjutnya, sejak tahun 2004 pada saat reformasi birokrasi dimulai, dengan dilandasi semangat pelayanan terhadap publik, KPKN Balikpapan kemudian berganti nama menjadi Kantor Pelayanan Perbendaharaan Negara (KPPN) Balikpapan hingga saat ini.
Dalam rangka mewujudkan tata kelola pemerintahan yang baik (good governance), pimpinan Kementerian Keuangan bertekad untuk membentuk suatu kantor pelayanan di lingkungan Direktorat Jenderal Perbendaharaan yang dapat memberikan peningkatan layanan yang lebih cepat, akurat, tanpa biaya serta penyelesaiannya dilakukan secara transparan. Pembentukan kantor pelayanan percontohan ini telah direalisasikan di setiap Kantor Pelayanan Perbendaharaan Negara di Indonesia oleh Direktorat Jenderal Perbendaharaan, yaitu dengan mengubah setiap KPPN yang berkedudukan baik di ibukota provinsi, Kabupaten/Kota menjadi KPPN Percontohan. Perubahan tersebut dilaksanakan mulai tanggal 30 Juli 2007 secara bertahap dan KPPN Balikpapan berubah status menjadi KPPN Percontohan sejak 1 Oktober 2012.
Berdasarkan Keputusan Direktur Jenderal Perbendaharaan Nomor KEP-163/PB/2012 tanggal 16 Juli 2012 tentang Penetapan KPPN Percontohan Di Lingkungan Direktorat Jenderal Perbendaharaan Tahap 6, maka pada hari Senin, 1 Oktober 2012 KPPN Balikpapan melakukan soft launching KPPN Percontohan Tahap VI Lingkup Kanwil Ditjen Perbendaharaan Provinsi Kalimantan Timur.
Berdasarkan Keputusan Menteri Keuangan Nomor 303/KMK.01/2004 tanggal 23 Juni 2004 tentang Organisasi dan Tata Kerja Kantor Wilayah Direktorat Jenderal Perbendaharaan dan Kantor Pelayanan Perbendaharaan Negara, yang terakhir diubah dengan Peraturan Menteri Keuangan Nomor 169/PMK.05/2012 dan diubah kembali dengan dengan Peraturan Menteri Keuangan Nomor 262/PMK.01/2016 tanggal 30 Desember 2016 tentang Organisasi dan Tata Kerja Instansi Vertikal Direktorat Jenderal Perbendaharaan, KPPN Balikpapan merupakan instansi vertikal Ditjen Perbendaharaan yang berada dan bertanggung jawab langsung kepada Kepala Kantor Wilayah Ditjen Perbendaharaan Provinsi Kalimantan Timur. Sebagai unit organisasi di bawah payung Kementerian Keuangan, maka sudah sewajarnya apabila tugas dan fungsi KPPN Balikpapan didasarkan pada keputusan Menteri Keuangan, yaitu melaksanakan fungsi dan tugas dalam bidang perbendaharaan.
Dengan berlandaskan semangat Nilai-nilai Kementerian Keuangan yaitu Integritas, Profesionalisme, Sinergi, Pelayanan dan Kesempurnaan, KPPN Balikpapan siap memberikan layanan terbaik kepada para pemangku kepentingan. KPPN Balikpapan mempunyai peran yang penting dalam proses pencairan dana APBN, penatausahaan penerimaan negara, dan pertanggungjawaban pelaksanaan anggaran di Kalimantan Timur. Sejalan dengan reformasi birokrasi dalam rangka menuju tata kelola pemerintahan yang baik (good governance), KPPN Balikpapan sebagai instansi pemerintah telah melakukan perubahan paradigma layanan dengan memberikan layanan yang cepat, tepat, akurat, dan tanpa biaya, serta mengedepankan transparansi dalam melakukan pekerjaan.
Wilayah Kerja KPPN Balikpapan meliputi wilayah Kota Balikpapan, Kabupaten Penajam Paser Utara (PPU), dan Kabupaten Paser dengan jumlah satker sebanyak 138 (TA 2022) dimana satker-satker besar seperti Makodam VI Mulawarman dan Polda Provinsi Kalimantan Timur yang pada umumnya berlokasi di ibukota provinsi, menjadi mitra kerja KPPN Balikpapan karena berlokasi di Kota Balikpapan.
