ארצי נולד במושב השיתופי אלוני אבא שבעמק יזרעאל (בעת הולדתו היה זה קיבוץ בשם נוה יער), בנם של מרגלית (מימי) לבית ליקוורניק, ילידת רומניה ניצולת השואה אשר שרדה את מחנות הריכוז אושוויץ־בירקנאו וקליינה שנאו ואיבדה את בעלה הראשון ואת בנה, ושל יצחק (איציו) ארצי (הֶרְצִיג), ניצול השואה יליד רומניה שהיה איש ציבור ולימים חבר הכנסת ה־11. ארצי גדל והתחנך בתל אביב. אחותו הצעירה, נאוה סמל, הייתה סופרת שהרבתה לעסוק בנושא הדור השני לשואה. נאוה נישאה למפיק נעם סמל שהיה אמרגנו של ארצי בתחילת הקריירה שלו. רחל, סבתו מצד אימו, הייתה אחותו של הרב מאיר שפירא מלובלין. בילדותו גר באלוני אבא וב־1956, כשהיה בן שבע, עברה משפחתו להתגורר בשכונת ביצרון שבתל אביב ובשנות השישים עברה משפחתו לצפון החדש. הוא בילה ימים רבים אצל סבתו וסבו הורי אימו בקריית ים ג'. כתלמיד בית הספר העממי בלט דווקא כשחקן, אך בגיל 12 התחיל לנגן בגיטרה ושר בלהקה בשבט הצופים. כשהיה בן 16 התחיל להתנסות בכתיבת שירים ובהלחנה. עם "צמד סיני", שהקים עם חברתו לספסל הלימודים בתיכון עירוני ד' בתל אביב רבקה מנשה (לימים ריקי גל), הופיע בפני חיילים בסיני, כשם הצמד.

ארצי נחשב לאחד הזמרים המשפיעים והמצליחים ביותר בתולדות המוזיקה הישראלית. שיריו, כמו הופעותיו, זוכים לפופולריות לאורך שנים רבות. במהלך השנים יצר ארצי שיתופי פעולה מוזיקליים רבים עם מיטב אמני ישראל, ביניהם שלום חנוך, אריק איינשטיין, ריטה, אברהם טל ועוד. בנוסף, ארצי נוהג לעבוד עם מעבדים ומפיקים מוזיקליים שונים כמעט בכל אלבום, ביניהם ניתן למנות את יעקב למאי, משה לוי, פטריק סבג, לואי להב ועוד. אמנים רבים בישראל העידו שארצי היה חלק מהשפעתם המוזיקלית. כמה מזמרי הליווי והנגנים שליוו את ארצי במהלך השנים פצחו בקריירות עצמאיות והפכו לזמרים בזכות עצמם, למשל דני רובס, אתי אנקרי, רונית שחר, יעל דקלבאום וצילי ינקו. התיאטרון הקאמרי הפיק ב־2010 מחזמר המבוסס על שיריו של ארצי בשם "לילה לא שקט" ובשיתוף פעולה עימו. המחזמר, שעלה על הבימה ביוני 2010, היווה הפקת ענק בקנה מידה מקומי, וצוות המחזמר כולל שמות ידועים כמו מיי פיינגולד, אקי אבני, אבי גרייניק, יעל בר זוהר, אפרת גוש, עידו מוסרי ועוד. יעל רונן ביימה את המחזמר. המחזמר, שהוגדר פרויקט הדגל של הקאמרי באותה עונה, קיבל ביקורות לא מחמיאות במיוחד.ארצי הוא זוכה פרס אקו"ם על מפעל חיים לשנת 2009. ב־2012 העניקה לו אוניברסיטת חיפה תואר דוקטור לפילוסופיה לשם כבוד. ב־2018, כחלק מחגיגות שנת ה־70 למדינת ישראל, נבחר ארצי להדליק משואה בטקס הדלקת המשואות בהר הרצל. ב-2021, זכה בפרס מפעל חיים של אמ"י לשנת ה'תשפ"ב. ב-2023 בחרה בו ועדת פרס ישראל כחתן פרס ישראל לזמר עברי, אך ארצי סירב לקבלו על רקע המחלוקת בעניין הרפורמה המשפטית בישראל ונימק: "בעיתוי הנוכחי, כשהמדינה שלנו פצועה ושסועה, אני מרגיש שקשה לי לקבל את הפרס ולכן אני נאלץ בצער לוותר על הכבוד הגדול הזה".

ערך מורחב – דיסקוגרפיה של שלמה ארצי