נולד כבן זקונים לשרה לבית חכים ולהיסטוריון, המשורר ועיתונאי הלאדינו משה דוד גאון. אביו, צאצא למגורשי ספרד, נולד בסרייבו שבבוסניה בשנת 1889, ועם עלייתו לארץ ישראל שימש כמורה לעברית. לאחר זמן מה נשלח ללמד עברית בקהילה היהודית באיזמיר שבטורקיה, שם הכיר את שרה, אמו של יהורם. לאחר זמן קצר עלו שניהם יחדיו לארץ ישראל והקימו משפחה. גאון נולד בהר הצופים, גדל והתחנך בשכונת בית הכרם שבירושלים. בילדותו למד בבית הספר העממי "בית הכרם" ואחר כך בתיכון בית הכרם (שלימים נקרא תיכון ליד"ה), והיה חבר בתנועה המאוחדת. את שירותו הצבאי עשה גאון בלהקת הנח"ל, אליה התקבל ב-1957 כשחקן. לצדו שירתו בלהקה חבריו לספסל הלימודים, תובל פטר ועליזה רוזן. גאון לא נתפס בתחילה כזמר במהותו, עד כדי כך שבמהלך הקלטת השיר "רוח סתיו", אורי זוהר, מפקד הלהקה, המליץ לו לדקלם את שתי השורות שניתנו לו במקום שישיר אותן.

גאון השתתף בתוכנית "בדרך כלל" בשנת 1959 בבימויה של נעמי פולני, שהכירה בכישרונו כזמר. סרטו הראשון, היה "תיקון קטן" (1960) בהשתתפות חברי להקת הנח"ל. לאחר שחרורו נמנה גאון עם יוצאי להקת הנח"ל, שביקשו מנעמי פולני להמשיך לעבוד עמה. כך קמה להקת "התרנגולים", שבה החל לשיר לראשונה, אם כי גם בה לא היה זמר דומיננטי, לצד הכוכבים העולים של אותה תקופה, בהם מי שעתידים להיות חלק משלישיית "הגשש החיוור": שייקה לוי וישראל פוליאקוב. בין השירים שבהם התבלט בזמרתו בתוכנית הראשונה מ-1961 היו "זמר אהבה לים" ו"ערב במסחה". במקביל החל לשחק בתיאטרון הקאמרי במחזה "כנרת כנרת" של נתן אלתרמן, וכן בהצגה "שורש כל רע" במועדון החמאם, שבמסגרתה שר את "שיר הנשים". בהמשך הקים יחד עם חברו ללהקת הנח"ל, אריק איינשטיין, ועם בני אמדורסקי, את "שלישיית גשר הירקון". רבים משיריה של הלהקה היו להיטים גדולים בזמר העברי, ובהם "לילה בחוף אכזיב", "סרנדה לך", "אותך" ו"איזה יום יפה". השלישייה הקליטה יחד את האלבום "אהבה ראשונה". גאון פרש כשנה לאחר הקמת השלישייה, על מנת להתרכז בקריירת סולו. בשנת 1965 הוציא גאון אלבום סולו ראשון, בשם "כל העיר מרכלת עלינו". האלבום הורכב כולו משירים שכתב יוסי גמזו, ובהם הלהיט "איפה הן הבחורות", שנכתב על פי לחן עממי, שלושה שירים מתוך האלבום, "ליל אביב", "אמרו לי" ו"אולי תפסיקי כבר", הולחנו על ידי יעקב הולנדר. כמו כן נכללה באלבום גרסה עברית לשירה של להקת הביטלס "I Want to Hold Your Hand", שבגרסתו של גמזו נקרא "זה נדבק". כעבור שנה הוציא גאון מיני-אלבום בשם "קיץ אחד של כושר", ובו ארבעה שירים שכתב גמזו והלחין סשה ארגוב. ב-1966 נסע גאון לארצות הברית על מנת ללמוד משחק. הוא שב ארצה לאחר שיואל זילברג, שעמד לביים את המחזמר "קזבלן", נזכר בזמר הכישרוני, ופנה אליו כדי שיגיע לארץ למבחני במה. המחזה, אותו כתב יגאל מוסינזון, על רקע "השטח הגדול" ביפו, עובד למחזמר, הופק על ידי גיורא גודיק ב-1966 וזכה להצלחה גדולה, שהפכה את גאון לאחד הזמרים המובילים בארץ. שני שירים מתוכו, "כל הכבוד" ו"יש מקום" מזוהים עמו עד היום.

גאון נהנה מתמיכה כלל ישראלית ואינו מזוהה עם עמדה או מגזר מסוים, וזאת על אף שבמהלך כל שנות פעילותו הרבה לעסוק בעניינים פוליטיים-ציבוריים. כשחקן, היה לגאון תפקיד בולט במחזמר הביקורתי מבחינה פוליטית "קזבלן". משני תפקידים אחרים הוא פרש מנסיבות פוליטיות-חברתיות; הוא הפסיק להגיש את פרקי הסדרה "תקומה", משום שסבר כי אחד מפרקיה, "בילאדי בילאדי", הוא פרו-פלסטיני, וכן עזב את התוכנית "גם להם מגיע" לאחר שהתקשה לעמוד בגל הביקורות שהופנו כלפי התוכנית וספציפית אליו. ביוני 1991 הכריז על מועמדותו לראשות עיריית ירושלים, לקראת הבחירות לרשויות המקומיות בנובמבר 1993. לצורך כך הקים מפלגה בשם "אני ירושלמי". תחילה נראה שסיכויו לזכות היו טובים, מאחר שראש העירייה הוותיק, טדי קולק, הודיע על כוונתו לא לרוץ שוב. לאחר שקולק כן החליט לרוץ שוב, ואהוד אולמרט נבחר כמועמד מטעם הליכוד, החליט גאון לרוץ למועצת העיר בלבד. הוא נבחר ומונה למחזיק תיק התרבות. גאון נבחר למשך שתי קדנציות למועצת העיר ירושלים מטעם רשימת "אני ירושלמי". בתפקידו זה הוא קידם תמיכה בלימודי נגינה בכלים המקובלים במוזיקה מזרחית קלאסית. בפברואר 2003, לאחר שראש העירייה אולמרט פרש לטובת חברות בכנסת, הודיע שירוץ לראשות העירייה בבחירות בנובמבר 2003, לבסוף החליט לא להתמודד שוב הן לראשות העירייה והן למועצת העיר. הדימוי של גאון כזמר לאומי הביא לבחירתו לשיר בטקס קבלת פרס נובל לשלום ב-1994, בו זכו יצחק רבין ושמעון פרס. בשנת 2000, כאשר ראש הממשלה אהוד ברק נתקל בהתנגדות רחבה בישראל ליוזמתו המדינית לחלוקת ירושלים, גייס את תמיכתו של גאון במאבקו על דעת הקהל, על ידי שימוש בתדמיתו הירושלמית השורשית. למרות זאת, בתוכנית הרדיו שלו ביום שישי גאון משמיע לא פעם אמירות אוהדות כלפי המתנחלים. גאון הביע תמיכה גם בבחירתו של עמיר פרץ לראשות מפלגת העבודה. גאון מגיש החל מ-1997 תוכנית אישית בימי שישי בצהריים ברשת ב' בשם "גאון ברדיו", בה הוא מדבר על אירועים אקטואליים שקרו באותו שבוע ומביע את דעותיו האישיות לגביהן. לאחר סגירת רשות השידור ב-2017, גאון עבר לשדר את התוכנית בגלי צה"ל. בשנת 2011 התראיין גאון לאלון כץ, אז סטודנט מאוניברסיטת אריאל, ותקף בחריפות את התמלילים של חלק מהמוזיקה הים-תיכונית שהשתלטה לטענתו על הרדיו. הוא כינה אותם "זבל איום שהשטן לא ברא". עם זאת, ציין לטובה זמרים מזרחיים מסוימים כגון שלמה בר ואביהו מדינה. הראיון צוטט בידיעות אחרונות וגרר תגובות זועמות מצד הזמרים המזרחיים וקהל המוזיקה המזרחית. בתוכניתו השבועית הסביר גאון, שאין הוא חוזר בו מדבריו, אך הבהיר שהמוזיקה המזרחית היא ראויה וטובה, אף על פי שיש בה, "הרבה חצץ", כלשונו. דבריו של גאון זכו לתמיכה והזדהות מפי אביהו מדינה, שאמר, בין השאר: "אני איתו, וכל הכבוד שהוא אומר זאת באומץ". בשנת 2013 הודיע גאון על כוונתו להופיע בסבסטיה אשר בשומרון. למרות ביקורת בשמאל, הוא לא ביטל את הופעתו ואמר בריאיון לערוץ 7 כי הוא "מרשה לעצמו להופיע בגאווה בכל חלק של ארץ ישראל". באותה שנה, על רקע ביקורת חריפה שספג הציבור החרדי, ביקר אותם בעצמו בתוכניתו ברשת ב', אך אמר בין היתר על הביטויים החריפים נגדם: "לא הייתי מעז בחלומות הכי רעים שלי לראות באלה שלא נוטלים בנטל או שלא רוצים לימודי ליבה, ושהם אחיי ואחותי ובני עמי, מוקצים מחמת מיאוס. לאחר מה שראיתי ושמעתי בכנסת, בכנסת ישראל, מצאתי את עצמי צועק בקול ולאות הזדהות מוחלטת עם החרדים מצאתי את עצמי צועק 'אני חרדי!' בפירוש כך, כן, 'אני חרדי!'". ב-18 במאי 2015 אוניברסיטת בר-אילן העניקה ליהורם גאון תואר דוקטור לשם כבוד. ב-2017 נבחר להשיא משואה בטקס הדלקת המשואות לרגל יום העצמאות ה-69 למדינת ישראל, שעמד בסימן יובל לאיחוד ירושלים. באפריל 2017, הוציא לאור אוטוביוגרפיה בשם "עוד אני פוסע – סיפור חיי", שכתב עם שי פלד. בפברואר 2018, בעקבות הפיכתו של מנכ"ל משרד התקשורת המושעה, שלמה פילבר, לעד מדינה בחקירות נתניהו, הגדיר בתוכניתו "גאון ברדיו" בגלי צה"ל, את עד המדינה כ"מלשן" ו"איש קריות", הדגיש את היותו "קודם כל עבריין", וציטט גם מתפילת שמונה עשרה שבה נאמר "למלשינים אל תהיי תקווה". גאון גם סייג את דבריו ואמר "הביטוי מלשן שנוי במחלוקת ותלוי מי הלשין כדי לטהר את החברה ומי הלשין כדי למלט רק את עצמו". ב-16 במאי 2021 הכריז גאון באורח רשמי על התמודדותו לתפקיד נשיא מדינת ישראל, ופתח באיסוף חתימות של חברי הכנסת לקראת הבחירות לנשיאות, אך לבסוף לא התמודד. באותו חודש השתתף בפרק של הסדרה התיעודית "הופרדו בלידתם" של תאגיד השידור הישראלי.

בשנות ה-60 ניהל גאון מערכות יחסים מתוקשרות עם נורית מקובר (שנישאה לימים ליהונתן גפן), מונה זילברשטיין ועם השחקנית פייר אנג'לי, שאותה הכיר כאשר שיחקו יחד בסרטו של אורי זוהר, "כל ממזר מלך". בשנת 1976, כשהוא כמעט בן 37, הכיר גאון את אורנה גולדפרב שהייתה אז בת 16 בלבד. לאחר כחצי שנה, במרץ 1977 השניים ביקשו להינשא, אך עקב גילה הצעיר של גולדפרב, שטרם מלאו לה 17 שנים, היא הגישה בקשה מיוחדת לבית המשפט המחוזי בחיפה, אך הוא לא התיר להם להינשא. לאחר מספר ימים הגישו השניים ערעור לבית המשפט העליון, אך הערעור נדחה. בסופו של דבר השניים התחתנו כחוק ב-26 ביולי 1977 בבית הכנסת רבן יוחנן בן זכאי בירושלים בחופה שסידר הרב עובדיה יוסף. במאי 1978 נולד בנם הבכור משה, וב-1981 נולדה בתם השנייה הילה. בשנת 1986 תוך כדי דיונים סוערים, התגרשו השניים לאחר סכסוך מתוקשר שחשף בין היתר כי גאון שכר שני בלשים פרטיים (שאחד מהם הוא הכיר באופן אישי), אשר עקבו, צילמו והקליטו את גולדפרב בסיטואציות מיניות עם גבר אחר. זמן קצר לאחר מכן ניסתה להתאבד, אך לבסוף משפט הגירושים הסתיים בהצלחה. ב-1990 גולדפרב התחתנה בשנית עם עורך דין זרח רוזנבלום, מי שהיה עורך דינה לאורך כל משפט הגירושים מגאון. לגאון היו שלושה אחים: כלילה גאון (1925–2010), יגאל גאון (1926–2019) ובני גאון (1935–2008). גאון אמנם נולד וגדל בירושלים, אך למרות דימויו הציבורי כירושלמי, הוא מתגורר ברמת השרון.

גאון הוא קונסול הכבוד של הונדורס בישראל. שימש כחבר נשיאות עמותת ארקאדאש - קהילת יוצאי טורקיה בישראל (שהתפרקה ב־2020). 1963 – פרס כינור דוד 1964 – פרס כינור דוד 1969 – זכייה בפסטיבל הזמר והפזמון 2004 – חתן פרס ישראל 2007 – פרס תמוז 2008 – כוכב בשדרת הכוכבים, אודיטוריום חיפה 2011 – חתן פרס ליבהבר מטעם מכון שכטר למדעי היהדות. הפרס ניתן עבור תרומה משמעותית להשגת סובלנות דתית ופתיחות תרבותית בישראל. 2012 – דוקטור לשם כבוד מאוניברסיטת תל אביב 2014 – פרס על מפעל חיים – פסטיבל הקולנוע היהודי-ספרדי בלוס אנג'לס 2015 – דוקטור לשם כבוד מאוניברסיטת בר-אילן 2015 – יקיר מוזיאון נחום גוטמן 2017 – הדלקת משואה בטקס הדלקת המשואות 2019 – "הקול של המדינה" מטעם כאן גימל 2019 – אות יצחק נבון 2019 – "שרים בגאון" - אירוע הוקרה ליהורם גאון לכבוד יום הולדתו ה-80 2019 – מופע מחווה של תאגיד השידור הישראלי 2019 – מופע מחווה בערב ראש השנה ואות הוקרה מיוחד על תרומתו למוסיקה הישראלית, מטעם "כאן גימל" 2020 – פרס פול האריס מאת ארגון "רוטרי" 2020 – ערב הוקרה ועמית כבוד של בית הספר רימון 2021 – הוענק לו התואר "דוקטור לשם כבוד" של המרכז האקדמי שלם 2021 – נקרא רחוב על שמו בשכונת גבעת זמר בחיפה 2023 – פארק רחב ידיים בשכונת "משכנות אומנים" בקריית מוצקין נקרא על שמו 2023 – תואר "עמית כבוד" האקדמית מכללת שאנן

יהורם גאון, עוד אני פוסע, סיפור חיי, ידיעות ספרים, 2017