Sekolah Menengah Chi Wen terletak di tengah-tengah bandar Bahau yang bersebelahan dengan perhentian bas, teksi dan SRJK (C) Chi Wen, Bahau. Sebelum tahun 1957 murid- murid lepasan darjah enam dari sekolah-sekolah rendah di sekitar bandar Bahau terpaksa melanjutkan pelajaran mereka di bandar-bandar seperti di Seremban atau Melaka. 

Perkembangan pesat yang dialami oleh bandar Bahau dalam awal tahun 50-an sebagai pusat pengumpulan hasil-hasil pertanian seperti getah, kelapa sawit dan kayu balak menambahkan bilangan penduduknya. Perkembangan ini membawa kesedaran tentang keperluan sebuah sekolah di sekitar ini. Dengan itu, pada awal tahun 1957 Sekolah Menengah Chi Wen ditubuhkan dengan menumpang tiga buah bilik darjah SRJK (C) Chi Wen, En. Lee Yu Chee diminta membantu mengelolanya. Sementara sebuah Jawatankuasa Bangunan bersebelahan degan SRJK (C) Chi Wen bagi menampung SMCW.

Pada awal tahun 1958 sebuah bangunan 3 tingkat siap dibina. Pada ketika itu mengandungi 12 bilik darjah, perpustakaan, sebuah makmal sains  di tingkat atas dan sebuah pejabat. Bilangan murid mula bertambah pada tahun 1960 kepada 508 orang murid. Ini menyebabkan tambahan kelas daripada 6 kepada 12 kelas. Guru besar sekolah rendah, En Gan Kai Jian terus membantu dalam pengurusan Sekolah Menengah Chi Wen, sejak penubuhannya sehingga tahun 1962 

Pada tahun 1976 bilangan murid bertambah lagi menjadi lebih daripada 1000 orang pelajar dan 28 buah bilik darjah. Perkembangan ini memaksa pihak pentadbir untuk mula dua sesi. Namun demikian, keadaan bertambah sesak akhir tahun 1970. Dengan itu pihak sekolah sekali lagi mengambil keputusan menambahkan lagi bangunan baru. Pada tahun 1981 satu bangunan tiga tingkat (Blok C) telah siap dibina dengan sebuah makmal sains, pejabat, lima buah bilik darjah, tandas pelajar dan tandas guru siap dibina, SMCW telah  banyak mengalami perkembangan yang pesat.

Kini terdapat 28 kelas bagi menampung pelajar-pelajar tingkatan peralihan hingga tingkatan 5. Di antara kemudahan  ayng terdapat ialah Bilik gerakan, bilik APD, bilik komputer, pusat sumber 3 buah makmal sains gelanggang bola tampar dan keranjang, tempat letak kereta guru, tempat letak motosikal dan basikal serta banyak lagi kemudahn untuk kegunaan murid-murid  dan guru-guru SMCW.