Những ngôi mộ liệt sĩ đầu tiên được quy tập tại đây từ cuối năm 1974. Nhưng đến cuối tháng 10/1975 nghĩa trang mới bắt đầu được xây dựng và hoàn thành vào tháng 4/1977.
Nghĩa trang Liệt sĩ Trường Sơn cũng là nơi tôn vinh những chiến sĩ đã hy sinh trong chiến tranh chống Mỹ cứu nước và trong những năm chiến tranh thống nhất đất nước.
Khu tưởng niệm nghĩa trang nằm ở trung tâm trên một ngọn đồi. Ở giữa sân là đài tưởng niệm bằng đá trắng cao vút uy nghi.
Quanh khu tưởng niệm có những bức phù điêu được chạm khắc bằng đá những hình ảnh các binh chủng của bộ đội Trường Sơn.
Quanh tượng đài là các khu mộ liệt sĩ, được tập trung theo tỉnh, thành phố.
Khu tưởng niệm các anh hùng liệt sĩ thành phố Hà Nội.
Bia tưởng niệm 469 liệt sỹ Thành phố Hà Nội.
Mỗi khu mộ đều có nhà tưởng niệm.
Cảm xúc trước danh sách liệt sĩ hi sinh khi còn quá trẻ.
Phần lớn những liệt sĩ đã ngã xuống khi mới bước vào tuổi mười tám, đôi mươi.

Tại nghĩa trang này, 80% các anh, các chị hy sinh ở lứa tuổi 18 - 22.