קלינשטיין נולד בניו יורק, ארצות הברית ועלה לישראל בגיל 8. עוד טרם התפרסם עסק במוזיקה, וב-1978, בעודו בתיכון, הקים קלינשטיין להקה בשם ליקוי חמה יחד עם ירמי קפלן, אשר למד שנה מעליו בבית הספר אליאנס תל אביב. בשנת 1980 התגייס לצה"ל, והיה למנהל המוזיקלי של הלהקה הצבאית "צה"ל 80", בה היה גם חבר לצידם של אשתו לעתיד ריטה והזמרות שלווה ברטי וחני דינור. בשנת 1983 יצר, יחד עם יוריק בן דוד את פסקול הסרט "הפנימיה", ובסוף אותה שנה הלחין את רוב שירי הלהקה הצבאית "צה"ל 84", שבה היו חברים בין היתר יובל זמיר, אופירה יוספי ואורנה דץ (כהן דאז). ב־1984 הלחין את פסקול הסרט "זעם ותהילה" בבימויו של אבי נשר. פרסומו הגדול הגיע בשנת 1985, כאשר הלחין את שירו של יורם טהרלב "עוד לא תמו כל פלאייך", שהפך ללהיט בביצועה של להקת פיקוד הצפון עם הסולנית יסמין גמליאל (שאחר כך הייתה חלק משלישיית הבנות "מנגו"). באותה שנה אף הפיק ועיבד את אלבום הבכורה של דני בסן. הפריצה הגדולה, הן של קלינשטיין והן של ריטה, הגיעה בשנת 1986 עם הוצאת אלבומי הבכורה של שניהם - "ביום של הפצצה" של רמי, ו"ריטה" של ריטה. "ביום של הפצצה" נחשב לאחד האלבומים המצליחים ביותר של קלינשטיין, ונכללו בו הלהיטים: "זמן גשום", "את שרה ברדיו", "אש", "שבועה" בדואט עם ריטה, "במקום שבו אני עומד", "הניחי לי", "ביום של הפצצה" ו"שיר מדבר". בגרסת הCD נכלל השיר "אורה" אותו הלחין קליינשטיין למילים של שמעון גלבץ וגם גרסת כיסוי של השיר "ככה את רצית אותי" של אריאל זילבר כבונוס. בעקבות הצלחת האלבום, יצא קלינשטיין לסיבוב הופעות בשם "אש על הבמה". אלבום הבכורה של ריטה כלל בעיקר שירים שהלחין ועיבד קלינשטיין, הבולט ביותר מביניהם הוא "שביל הבריחה", איתו הגיעה ריטה למקום הרביעי בתחרות הקדם-אירוויזיון באותה שנה והופעתה שם עוררה עניין ציבורי עקב שמיטת הכתפייה אותה לבשה ריטה. בנוסף הלחין קלינשטיין לאלבום את רוב השירים, ביניהם "שיר אהובת הספן", "עבד של הזמן", "בגידה" ו"לקבל ולתת". בשנת 1988 יצא האלבום העברי השני של ריטה, "ימי התום", אשר גם בו היה קלינשטיין המלחין והמעבד העיקרי. בין השירים הבולטים באלבום היו "תחת ירח ערבי" (שהופיע רק במהדורת הדיסק), "עטוף ברחמים", "הנסיכה והרוח" (עיבוד של קלינשטיין ללחן של יהודה פוליקר), "אני חיה לי מיום ליום" (שכתב חנוך לוין, ושביצעה במקור תיקי דיין בלחן שונה) והמוכר יותר כ"לא בת 16", "ימי התום", "בוא", "כמו בִּתמונה" ו"חברה", שכתבה ריטה עוד בצעירותה לחברתה פנינה עסיס, לימים המעצבת פנינה טורנה. באותה שנה הפיק קלינשטיין את סיבוב ההופעות של גידי גוב "דרך ארץ", בו גם שר חלק משיריו. באלבום שיצא בעקבות המופע, שר קלינשטיין את "הניחי לי" לבד, ואת "ככה את רצית אותי" יחד עם גוב.

בשנת 2021 יצא לשווקים ספר פרי עטו של קלינשטיין שנקרא "שמיל הפיל" בהוצאת הספרים "קוראים".