Daerah Kelurahan Karangwaru berdekatan dengan Sungai Ngrowo, tepatnya berada di sebelah timurnya. Menurut cerita rakyat, bahwasanya daerah Karangwaru dulunya banyak terdapat bebatuan, dikarenakan berdekatan dengan Sungai Ngrowo. Ketika itu daerah yang masih belum ada namanya, masih banyak bebatuan, selain itu juga dekat dengan aliran Sungai Ngrowo. Sehingga Ketika pembabad daerah datang, untuk membuat sejuk Kawasan tersebut, maka tanamkanlah pepohonan yang dikenal dengan pohon waru.

                Seiring laju perkembangan waktu pada suatu daerah, maka daerah yang dulunya masih jarang penghuninya, makin ramai. Untuk memberi tanda keberadaan daerah tersebut maka daerah yang dulunya belum memiliki identitas nama, maka diberi nama Karangwaru. Keberadaan daerah tersebut sampai sekarang berkembang pesat, selain menjadi kelurahan, daerah tersebut menjadi pusat titik transportasi Kabupaten Tulungagung, dengan adanya Terminal Gayatri. Selain itu pula juga terdapat Lapangan Pasar Pahing, masyarakat mengenalnya. Sehingga siapa yang memberi nama Karangwaru, dan juga kapan waktunya, setidaknya hanyalah sejarah yang membisu mengetahuinya.

Makam Mbah Kumbang

                Di daerah Karangwaru, sampai sekarang terdapat makam tokoh Islam yang bernama Imam Hambali, atau masyarakat mengenalnya Mbah Kumbang. Mbah Kumbang oleh masyarakat Karangwaru dipercayai sebagai orang yang awal mula babat alas Karangwaru dan mengajar ngaji serta dakwah Islamiyah di Karangwaru dan sekitarnya sehingga Islam berkembang di Karangwaru sampai saat ini. Oleh sebab jasa beliau inilah makam Mbah Kumbang pernah dibangun oleh Bapak Haji Yamani dan sampai sekarang pun jika ada perbaikan makam keluarga bapak Haji Yamani selalu dilibatkan.

                Beliau mendapatkan julukan atau panggilan Mbah Kumbang karena kalau tadarus Al Qur’an atau pada waktu berdoa suaranya gemrembeng atau berdengung seperti suara kumbang yang sedang terbang. Namun ada juga yang menyatakan beliau mendapat julukan Mbah Kumbang karena keahliannya membuat ukir-ukiran kayu. Mbah Kumbang kalau mengukir kayu, dalam membuat lekuk-lekukan atau lengkung, kedalaman pahatan, kerumitan, kehalusan dan tipenya mirip bagaikan seekor kumbang.

                Seiring perkembangan jaman, keberadaan Kelurahan Karangwaru sendiri memiliki kepemimpinan, Adapun pimpinan daerah Karangwaru, diantaranya:

• Kamal
• Sadjuri
• Suyatno
• Soewoyo
• Suhardi
• Hawidji Julianto, SH
• Pamundak, SH

Demikian mengenai sejarah asal-usul keberadaan Kelurahan Karangwaru, sekiranya dapat dijadikan bahan untuk melengkapi keberadaan sejarah asal-usul desa maupun kelurahan yang terdapat di Daerah Tulungagung.