Trường được thành lập từ năm 1976, có tên gọi là trường Mẫu giáo Ngô Thì Nhậm. Trường tiếp nhận dạy trẻ mẫu giáo từ 2 đến 6 tuổi với 6 lớp ở nhiều địa điểm lẻ trên các ngõ phố như phố Lê Văn Hưu, phố Thi Sách, phố Huế, phố Phạm Đình Hổ, phố Hàng Chuối do cô giáo Nguyễn Thị Oanh làm hiệu trưởng. Dù trường có nhiều địa điểm lẻ, trong trường không có sân chơi nhưng số lượng học sinh vẫn ra lớp đông đáng kể: từ 150 đến 170 cháu.

Tháng 9 năm 1993 trường Mẫu giáo Ngô Thì Nhậm được sát nhập với trường Nhà trẻ Thi Sách. Đến tháng 8 năm 1994 trường nhận quyết định của UBND Quận Hai Bà Trưng đổi tên thành trường Mầm non Ngô Thì Nhậm. Trường tiếp nhận nuôi dạy trẻ từ lứa tuổi nhà trẻ đến lứa tuổi mẫu giáo (trẻ từ 6 tháng đến 6 tuổi). Quy về 3 điểm trường là 31 Thi Sách với diện tích 360 m2, có 4 lớp học từ mẫu giáo bé đến mẫu giáo lớn, điểm trường 78 Lò Đúc với diện tích 30 m2, có 1 lớp nhà trẻ, điểm trường 38 ngô Thì Nhậm với diện tích 20 m2, có 1 lớp nhà trẻ.