המוזיאון נפתח בשנת 1987, לאחר שעיריית רמת גן החליטה על הקמתו שלוש שנים קודם לכן. בניין המוזיאון הוא מבנה תעשייתי משנת 1936 שתוכנן בסגנון הבינלאומי, ושימש מגוון בתי חרושת. לקראת פתיחת המוזיאון בבניין, שוקם המבנה והוסב לייעודו החדש כחלל מוזיאלי על ידי האדריכל דני שוורץ. המייסד מאיר אהרונסון שימש כמנהל ואוצר המוזיאון מהקמתו ועד 1990, אז עזב את המוזיאון בעקבות סכסוך עם עיריית רמת גן בראשות צבי בר. מרים טוביה בונה מונתה למנהלת במקומו, אך לאחר שנתיים הוחלפה באריאלה אזולאי. בתקופת ניהולה של אזולאי המוזיאון לא היה פעיל לשבעה חודשים, ובעקבות מערכת יחסים מתוחה עם אנשי העירייה סיימה את תפקידה בשנת 1995. אהרונסון חזר לנהל את המוזיאון מאוגוסט 1995 ועד 2019, אז מונה לתפקיד סגן ראש העירייה רועי ברזילי, אשר כיהן במקביל כיושב ראש מוזיאוני רמת גן. במשך השנים לא הצליח המוזיאון לאפיין לעצמו קו אוצרותי ברור והוא מציג מגוון של תערוכות אקלקטיות. בין התערוכות הבולטות שהוצגו במוזיאון במשך השנים ניתן למנות תערוכת צילום של הצלם שמחה שירמן, תערוכה קבוצתית בנושא אמהות שאצרו יהודית מצקל והדרה שפלן קצב, ועוד. בשנת 1996, בסמוך לכניסה למוזיאון, הציב האמן יגאל תומרקין אנדרטה לזכר יצחק רבין. את יצירתו תיאר תומרקין: בסוף העשור השני של המאה ה-21 נסגר המוזיאון לטובת שיפוץ נרחב. חזיתותיו נשמרו וכל חלקיו הפנימיים של הבניין נהרסו לטובת הקמת הבניין מחדש תוך הרחבה משמעותית של שטחי התצוגה והשירות. סבטלנה ריינגולד נבחרה על ידי ועדה לתפקיד האוצרת הראשית של המוזיאון באוגוסט 2020. המוזיאון נפתח מחדש בשנת 2021.