Awal berdirinya rumah sakit ini dimulai sejak tahun 1951 dengan nama Pusat Pelayanan Kesehatan (Health Center), yang memberikan pelayanan kesehatan bagi masyarakat di wilayah disekitar Kota Metro, dengan kondisi yang serba terbatas dimasa itu, tetap dirasakan manfaatnya oleh masyarakat sebagai satu-satunya pusat pelayanan kesehatan (Health Center) di Kota Metro.

Pada tahun 1953 fungsi pelayanan kesehatan sudah dapat ditingkatkan melalui keberadaan penggabungan bangsal umum pada unit pelayanan kesehatan Katolik (sekarang RB.Santa Maria) sebagai rawat inap bagi pasien, dan pada tahun 1970 bertambah lagi sarana bangsal perawatan umum dan perawatan bersalin.

Berdasarkan Keputusan Menteri Kesehatan No.031/BERHUB/1972, tanggal 4 September 1972 Rumah Sakit Umum Jendral Ahmad Yani secara sah berdiri sebagai Rumah Sakit Umum Daerah tipe D, sebagai UPT Dinas Kesehatan TK II Lampung Tengah. Setelah beroprasi lebih kurang 15 tahun tepatnya pada tahun 1987 berhasil meningkatkan status menjadi Rumah Sakit tipe C berdasarkan SK. MenKes. No.303/MENKES/SK/IV/1987, yang memiliki sarana rawat inap berkapasitas 156 tempat tidur, dan berperan sebagai pusat Rujukan Pelayanan Kesehatan untuk Wilayah Kabupaten Lampung Tengah serta sekaligus sebagai Unit Pelaksana Teknis (UPT) dari Dinas Kabupaten TK II Lampung Tengah.

Berdasarkan surat Bupati Kepala Daerah TK.II Lampung Tengah Nomor 445/7423/03/1995 tanggal 27 Desember 1995, dan persetujuan Mendagri dengan surat No.445/883/PUOD/1996, tanggal 22 maret 1996 RSUD Jend. A. Yani meningkat menjadi Unit Swadana artinya disuatu sisi bukti kemampuan pengelolaan Rumah Sakit Umum Daerah Jend. Ahmad Yani sudah dianggap layak, dan sisi lain tentunya peningkatan tanggung jawab terhadap eksistensi rumah sakit dimasa yang akan datang.

Rumah Sakit Umum Daerah Jenderal Ahmad Yani adalah semula Rumah Sakit milik Pemerintah Kabupaten Lampung Tengah, yang kemudian aset tanah dan bangunan pada bulan Januari 2002 berdasarkan SK Dewan Perwakilan Rakyat Daerah Kabupaten Lampung Tengah Nomor : 188.342/IV/07/2002, diserahkan kepada pemerintah Daerah Kota Metro.

Pada tahun 2003 RSUD Jenderal A. Yani sebagai salah satu lembaga organisasi layanan publik dibawah Kepemerintahan Kota Metro dengan fungsi peranan lembaga teknis Daerah disamping memiliki keterkaitan struktural juga mempunyai kewenangan, otonomi seperti yang diamanatkan oleh Undang-undang No.32 tahun 2004, yang secara subtantial dimaksudkan untuk meningkatkan pelayanan kesehatan yang bermutu kepada masyarakat di Kota Metro dan sekitarnya.

Pada tanggal 28 Mei tahun 2008 berdasarkan Kepmenkes RI No : 494/MENKES/SK/V/2008, Rumah Sakit Umum Daerah Jend. A. Yani meningkat kelasnya yaitu dari kelas C menjadi kelas B Non Pendidikan yang memiliki jumlah tempat tidur rawat inap 212.

Berdasarkan Perda Kota Metro No. 7 Tahun 2008 bahwa RSUD Jend. A. Yani merupakan Lembaga Teknis Daerah namun pada tanggal 30 Desember 2010 dengan Peraturan WaliKota Metro NO : 343/KPTS/RSU/2010, RSUD Jend. A. Yani ditetapkan sebagai Instansi Pemerintah Kota Metro yang menerapkan PPK-BLUD.

Rumah Sakit Umum dalam pelayanan kesehatan memberikan pelayanan antara lain kuratif, rehabilitatif, preventif dan promotif. Kepada pengguna jasa pelayanan kesehatan serta masyarakat dari wilayah Kota Metro dan sekitarnya.Hal ini menuntut agar RSUD Jend. A. Yani harus memiliki keunggulan kompetitif (Competitive advantages) agar dapat meningkatkan dan mempertahankan kualitas pelayanan yang baik sehingga tidak ditingalkan oleh pelanggannya.

Visi, Misi Falsafah dan tujuan Rumah Sakit adalah sebagai pedoman untuk terselenggaranya pelayanan medik yang berkualitas terjangkau dan adil bagi masyarakat penguna jasa pelayanan kesehatan.