Sebelum ditunjuk menjadi Ketua BPK, Agung telah lama berkecimpung di lembaga tersebut sebagai anggota terhitung sejak April 2012.
Dia pernah menjadi anggota III, V, dan I BPK RI.
Anak dari tokoh politik senior Partai Golkar, Kahar Muzakir, ini juga pernah menduduki jabatan penting di Lembaga Administrasi Negara (LAN).
Baca Juga: Tekad Kento Momota Semakin Membara usai Namanya Masuk Buku Rekor Dunia
Dia menjadi Fungsional Umum pada Pusat Kajian Sumber Daya Aparatur dan Fungsional pada Pusat Kajian Manajemen Kebijakan LAN RI.
Selain itu, dia juga tercatat pernah menjadi bagian Organisasi dan Tata Laksana Setwilda Tk.II Kabupaten Musi Banyuasin pada tahun 1998-1999.
Pria 49 tahun itu juga pernah bekerja di Kantor Pengolahan Data Elektronik dan menjadi Staf Sekretariat Daerah Kabupaten Musi Banyuasin.
Meski begitu, Agung diketahui memiliki ketertarikan dengan olahraga bulu tangkis dan merupakan salah satu pengurus Pengprov PBSI Sumatera Selatan.