רכטר נולד בתל אביב, בנם של האדריכל יעקב רכטר ושל המורה שרה שפיר. אחיה של המאיירת מיכל לויט ואחיהם למחצה של השחקנית דפנה רכטר והאדריכל אמנון רכטר. בגיל שמונה החל לנגן בפסנתר ובגיל 15 החל לכתוב מוזיקה. השיר הראשון שהלחין היה "דמעות של מלאכים" למילותיו של חברו לכיתה דן מינסטר. בגיל זה גם הקים שלישיית ג'אז. בנוסף לעיסוקו במוזיקה, בימי לימודיו בתיכון (תיכון חדש), שיחק כדורסל בהפועל צפון תל אביב, קבוצת בת של הפועל תל אביב, אשר שיחקה בליגה השנייה.

המוזיקה של רכטר מתאפיינת במורכבותה ההרמונית וניכרת בה השפעתן של המוזיקה הקלאסית ומוזיקת הג'אז, כמו גם של שירים רוסיים ומלחינים ישראלים שקדמו לו, בעיקר סשה ארגוב. למרות ההרמוניה המורכבת, לעיתים קרובות המנגינות פשוטות וקליטות, כדוגמת לחן השיר "הילדה הכי יפה בגן". רכטר עושה שימוש ברבים משיריו במשקלים ומקצבים ייחודיים ומשחקיים, לדוגמה בשיר "לא מכירים". העיבודים של רכטר עשירים ומשלבים לעיתים קרובות כלים לא-שגרתיים וכלי נגינה קלאסיים; ברבים מעיבודיו תופס הפסנתר מקום מרכזי. בין השאר, הלחין רכטר משיריהם של המשוררים לאה גולדברג (למשל השיר "מה עושות האיילות"), אברהם חלפי ("עטור מצחך" הוא המוכר שבהם), ורבים אחרים.

בשנת 1990 זכה בפרס אקו"ם למלחין השנה. בשנת 1992 זכה בפרס אקו"ם למפעל חיים. בשנת 2008 זכה בפרס א.מ.ת למוזיקה. בשנת 2009 קיבל את התואר "דוקטור לשם כבוד" מהאוניברסיטה העברית בירושלים. בשנת 2012 זכה בפרס התיאטרון הישראלי על המוזיקה המקורית שהלחין להצגה "חוקר פרטי" שהועלתה בתיאטרון החאן. בשנת 2014 זכה, יחד עם יהונתן גפן, בפרס אקו"ם על תרומה מיוחדת ליצירה הישראלית לילדים על יצירתם המשותפת "הכבש השישה עשר". מנימוקי השופטים: ”מעטות הן היצירות שבכל גלגול שומרות על איכותן ומצליחות להגיע לקהל רחב ילדים ומבוגרים כאחד. במקרה של "הכבש השישה עשר" זה קרה בזכות השילוב הנדיר שבין שירים נפלאים רוויי הומור ורגישות לבין לחנים נהדרים, הפקה מוזיקלית מושלמת וביצועים חד-פעמיים.” בשנת 2017 קיבל את התואר "דוקטור לשם כבוד" ממכון ויצמן למדע.