KPPN Mamuju secara resmi beroperasi sejak tanggal 3 April 2006. Faktor pendorong pembentukan KPPN Mamuju adalah karena adanya pemekaran daerah yaitu terbentuknya Provinsi Sulawesi Barat dengan ibu kota di Mamuju pada tahun 2004. Sebelum KPPN Mamuju terbentuk, seluruh satuan kerja di Provinsi Sulawesi Barat masuk dalam wilayah pelayanan KPPN Majene. Oleh karena itu, kehadiran KPPN Mamuju mempunyai arti yang sangat strategis dalam mendukung pembangunan dan perekonomian di provinsi yang masih muda ini. Pada awal berdirinya KPPN Mamuju menempati gedung kantor milik Pemerintah Daerah Kabupaten Mamuju yang beralamat di Jalan Jend. Ahmad Yani No.14, Mamuju. Gedung KPPN Mamuju ini adalah bekas Gedung Kantor Kesbang Linmas Kabupaten Mamuju dengan kondisi kurang layak untuk sebuah kantor pelayanan modern.
Seiring berjalannya waktu, sejak tahun 2010 dibangun Gedung Keuangan Negara (GKN) Mamuju. Sesuai dengan namanya, Gedung Keuangan Negara Mamuju diperuntukkan bagi instansi vertikal di lingkungan Kementerian Keuangan yang berada di Mamuju, termasuk KPPN Mamuju. Mulai tanggal 06 Mei 2013 KPPN Mamuju resmi berpindah kantor dengan menempati Lantai 2 GKN Mamuju Jl. Soekarno Hatta Mamuju. KPPN Mamuju merupakan instansi pertama yang menempati GKN Mamuju, disusul KPP Pratama Mamuju pada awal Desember 2013 yang menempati lantai 1 dan kemudian disusul Kanwil Ditjen Perbendaharaan Provinsi Sulawesi Barat yang telah resmi terbentuk dan beroperasi di lantai 3 pada awal tahun 2014.
Namun, adanya gempa yang mengguncang wilayah Sulawesi Barat pada 14 dan 15 Januari 2021 berdampak kerusakan yang signifikan terhadap bangunan GKN Mamuju. Atas pertimbangan aspek keselamatan dan keberlangsungan layanan, per tanggal 18 Februari 2021 sampai sekarang, KPPN Mamuju mendirikan kantor sementara yang bertempat di Jalan RE Martadinata, Simboro.