SD Muhammadiyah Karangwaru berdiri pada tanggal 6 Januari 1969, terletak di Karangwaru Lor, Tegalrejo, Kota Yogyakarta. Pada awal berdirinya hingga tahun 2000 sekolah ini belum menampakkan kemajuan yang berarti. Prestasi sekolah masih minim, jumlah siswapun masih sedikit. Keadaan tersebut membuat prihatin Pimpinan Daerah Muhammadiyah Kota Yogyakarta, tokoh Muhammadiyah Tegalrejo, dan para pemerhati pendidikan setempat. Selanjutnya pada tanggal 1 Oktober 2000 SD Muhammadiyah Karangwaru secara resmi diserahkan langsung pembinaannya kepada SD Muhammadiyah Sapen. Bapak H. Sutrisno, selaku Kepala SD Muhammadiyah Sapen saat itu langsung melakukan pembenahan yang nyata untuk meningkatkan mutu sekolah. Diantaranya adalah dengan mengubah pola pikir dan kinerja guru yang masih stagnan dan sulit diajak untuk maju. Upaya itu didukung oleh Bapak H. Saijan, S.Ag selaku koordinator sekolah yang selalu mengarahkan dan memotivasi guru agar bekerja lebih baik. Sejak saat itulah sekolah mulai berkembang pesat dan mulai banyak dilirik oleh masyarakat.
Secara perlahan tapi pasti wajah sekolah mulai berubah. Gedung sekolah yang semula memprihatinkan dan kurang layak untuk belajar mulai diperbaiki, bahkan dibuat bertingkat hingga 3 lantai mengingat keterbatasan lahan yang dimiliki saat itu. Sarana dan prasarana belajarpun semakin ditingkatkan. Secara kuantitas, jumlah siswapun mengalami pertambahan. Kalau sebelumnya jumlah siswa hanya belasan, maka kini meningkat hingga lebih dari ratusan siswa. Tercatat pada tahun ajaran 2016/2017 SD Muhammadiyah Karangwaru memiliki 440 siswa dan 30 guru. Seiring dengan itu berbagai prestasi siswa dalam bidang akademik maupun non akademik pun juga mulai nampak. Hingga pada akhirnya pada tahun 2004 sekolah inipun dilepas dari SD Muhammadiyah Sapen sebagai sekolah yang mandiri. Selepas dari SD Muhammadiyah Sapen, SD ini dipimpin oleh Bapak Bambang Harnowo, S.S., yang dilanjutkan oleh Bapak Mulyono, S.Pd. Di bawah kepemimpinan kedua kepala sekolah tersebut sekolah terus mengalami kemajuan yang pesat.
Pada tahun 2016 Pimpinan Daerah Muhammadiyah Kota Yogyakarta memberikan amanah kepada Bapak M. Slamet Riyanto, M.Pd. untuk memimpin sekolah ini. Alumnus Universitas Negeri Yogyakarta yang pernah meraih juara I Lomba Guru Berprestasi Tingkat Kota Yogyakarta ini berupaya untuk lebih gencar lagi dalam mewujudkan sekolah unggulan. Berbagai langkah dilakukan untuk meningkatkan mutu sekolah.
Pertama, Menjalin kerjasama dengan beberapa sekolah unggulan di luar negeri. Kerjasama tersebut tertuang dalam MOU dengan beberapa sekolah di Malaysia dan Singapura. Misalnya pada bulan Nopember 2016, Kepala SD Muhammadiyah Karangwaru pergi ke Malaysia untuk menjalin kerjasama dengan Sekolah Kiblah. Kerjasama dengan beberapa sekolah tersebut dipandang penting untuk meningkatkan mutu pendidikan.agar tidak ketinggalan dengan sekolah luar negeri. Selain itu juga sebagai upaya mengenalkan SD Muhammadiyah Karangwaru di luar negeri.
Kedua, Peningkatan kualitas pendidik dan tenaga kependidikan. Dalam upaya meningkatkan kualitas pendidik dan tenaga kependidikan, sekolah selalu mendorong dan memberi motivasi kepada guru dan karyawan untuk meningkatkan kompetensinya. Guru yang belum memenuhi kualifikasi S1 didorong untuk melanjutkan studi S1. Sedangkan bagi guru yang telah lulus S1 juga didorong untuk melanjutkan studi jenjang S2. Hasilnya saat ini sudah ada 2 guru yang berijazah S2, dan selebihnya berkualifikasi S1. Selain itu sekolah juga mendukung guru mengembangkan kompetensinya, baik melalui keikutsertaan diklat, seminar, simposium, maupun forum ilmiah lainnya.
Ketiga, Peningkatan proses dan layanan pendidikan. SD Muhammadiyah Karangwaru berusaha memberikan layanan prima kepada para siswa. Sejalan dengan visi sekolah, Pendidikan yang dilaksanakan di SD Muhammadiyah Karangwaru bertujuan untuk agar siswa dapat mengamalkan ajaran agama islam yang utuh sebagai hasil proses pembelajaran dan kegiatan pembiasaan, siswa dapat meraih prestasi akademik maupun non akademik minimal tingkat kota Yogyakarta, siswa dapat menguasai dasar-dasar ilmu pengetahuan dan teknologi sebagai bekal untuk melanjutkan ke sekolah yang lebih tinggi, dan siswa dapat menjadi pelopor dan penggerak di lingkungan masyarakat sekitar. Tak ketinggalan, sekolah berusaha menciptakan lingkungan belajar yang kondusif dan nyaman sehingga proses belajar mengajar bisa berlangsung secara efektif dan efisien. Disamping itu sekolah menjalin hubungan yang erat dengan wali murid, komite sekolah, tokoh masyarakat, dan masyarakat umum sekitar sekolah. Secara berkala sekolah mengadakan pertemuan wali murid atau yang disebut pengajian ahad pagi dan konsultasi prestasi belajar. Kegiatan ini selain bertujuan membangun silaturahmi sekolah dengan wali murid, juga dimaksudkan memberi laporan kemajuan belajar putera-puterinya di sekolah.
Keempat, Peningkatan sarana dan prasarana pendidikan. Kini SD Muhammadiyah Karangwaru telah memiliki 2 unit gedung. Bangunan utama atau gedung Unit 1 berbentuk “U” berlantai 3 terdiri dari ruang kantor, ruang kelas, ruang ibadah/mushola, ruang multimedia/komputer, ruang tata usaha, ruang kantin/koperasi siswa, kamar mandi/WC, taman dan ruang aula. Semua kelas dilengkapi dengan LCD proyektor dan audio sebagai penunjang kegiatan pembelajaran. Sementara itu, gedung Unit 2 berlantai 2 yang letaknya di sebelah selatan gedung Unit 1 diperuntukan sebagai ruang perpustakaan, ruang laboratorium terpadu (MIPA, Agama, IPS, Bahasa), ruang UKS, ruang penyimpanan alat peraga pembelajaran, ruang penyimpanan perlengkapan drumband, dapur sekolah, dan gudang. Sedangkan tempat parkir terletak di sebelah utara gedung Unit 1. CCTV juga dipasang di sejumlah ruangan untuk pemantauan kegiatan dan keamanan.
Kelima, Peningkatan kegiatan belajar dan mengajar (KBM). Dalam KBM, guru memiliki peran yang sangat sentral. Bahkan perannya tak dapat digantikan oleh canggihnya teknologi pendidikan. Oleh karena itu, sekolah mengusahakan KBM yang berlangsung di kelas berjalan kondusif, efektif, dan efisien. Guru sebelum mengajar telah membuat rencana pembelajaran, menyiapkan, alat peraga, media dan bahan yang sesuai dengan materi yang akan disampaikan. Selain itu, mereka juga telah menentukan metode dan pendekatan yang tepat sejalan dengan materi pelajaran. Saat pelajaran berlangsung, guru mengajar sesuai dengan rencana pembelajaran yang telah dibuat.
Keenam, Peningkatan kompetensi kelulusan. Sejak awal semester I sekolah sudah membuat perencanaan kesuksesan kelas VI. Perencanaan itu meliputi pembentukan tim sukses Ujian Sekolah, pembuatan schedule kegiatan kelas VI, dan pembentukan komite kelas VI yang siap mendukung semua program sekolah. Kegiatan utama kelas VI diantaranya: pelaksanaan les pagi, pendalaman materi usai pelajaran formal di sekolah, kegiatan les siang, try out US, ESQ, malam taqorrub/doa bersama, dan kegiatan refreshing/ KBM di luar kelas yang memberikan hiburan para siswa. Keseluruhan kegiatan utama tersebut bartujuan meningkatkan prestasi dan kompetensi siswa kelas VI.
Keseluruhan upaya mewujudkan sekolah unggul tersebut telah disepakati bersama seluruh stakeholder sekolah terutama saat diadakannya rapat kerja tahunan. Dalam implementasinya di lapangan, seluruh program bisa berjalan dengan baik. Kalau pun ada sedikit kendala, hal itu bisa diatasi. Kerjasama antar guru berjalan dengan baik. Koordinasi antar bidang juga berjalan dengan baik di bawah koordinasi kepala sekolah Demikian beberapa strategi yang dilaksanakan SD Muhammadiyah Karangwaru dalam mewujudkan sekolah unggulan..