"הם בטח ייפלו כמו צפלין מעופרת", אמר קית' מון מלהקת המי על הלהקה שנקראה אז The New Yardbirds . שנה לאחר מכן, נזכרו חברי הלהקה בהערתו העוקצנית , ושינו את שמם ל"צפלין מעופרת", או בגירסה המשובשת, Led Zeppelin. לד זפלין היתה יותר מעוד להקת רוק. בעזרת שאילה מחוכמת משירי בלוז ישנים, נגינה וירטואוזית והופעה מחשמלת, הניחה הלהקה את היסודות להבי מטאל, וסחפה אחריה מיליונים. לד זפלין סירבה להיכנע לחוקים הנוקשים של עסקי המוסיקה. היא שיחקה לפי הכללים שלה, וזכתה בכך להצלחה חסרת-תקדים.

ב- 1967, הצטרף נגן הגיטרה הבריטי ג'ימי פייג' ללהקת היארדבירדס, להקלטות אלבומם האחרון,  Little Games. באלבום השתתף גם המעבד-מפיק ג'ון פול ג'ונס. ג'ונס יצר קשר עם פייג' באביב 1968 כדי שיצטרף להקלטות השיר “Hurdy Gurdy Man” של דונובן. במהלך ההקלטות, התחזק הקשר בין השניים, שסיכמו ביניהם שאם פייג' יקח חלק בפרוייקט מוסיקלי נוסף הוא יצרף אליו את ג'ונס. הפרוייקט המוסיקלי הגיע מוקדם משחשבו - בקיץ 1968 התפרקו היארדבירדס,   ג'ימי פייג' וכריס דרייה נותרו עם הזכויות לשם ועם התחייבות למימוש סיבוב הופעות מיועד. לצורך כך, ביקש פייג' לגייס את הזמר של Procol Harum,  טרי רייד, ואת המתופף שלהם, בי. ג'יי. ווילסון. בסופו של דבר, לא יצאו ההופעות לפועל, עקב מכשולים בירוקרטיים, אך רייד המליץ לפייג' על הזמר של להקת Hobbstweedle, רוברט פלנט.  עם הצטרפותו של פלנט ללהקה באוגוסט 1968, נטש נגן הבאס דרייה את הפרוייקט המתגבש וג'ון פול ג'ונס נקרא להחליף אותו. עוד נוסף להרכב  המתופף ג'ון בונהאם, שניגן עם פלנט בלהקת  The Band Of Joy . בסופו של תהליך מסובך זה, התגבש ההרכב שהפך לימים לאחד מנכסי צאן הברזל של מוסיקת הרוק.
לד זפלין חתמה על חוזה הקלטות נדיב בחברת התקליטים אטלנטיק. לאחר 30 שעות אולפן בלבד, בינואר 1969, הוציאה את אלבום הבכורה שלה. האלבום, ששמו כשם הלהקה, לא זכה להצלחה מסחרית מסחררת, אבל במסגרתו הוקלטו כמה מהשירים החשובים ביותר של הלהקה:                 "Dazed and Confused” , “Good Times Bad Times”, “Communication Breakdown", כולם הפכו ברבות הימים לקלאסיקות רוק.
בין קונצרט לקונצרט, בסיבוב ההופעות שקידם את אלבומם הראשון, הספיקה הלהקה להקליט את האלבום השני שלה, שיצא באוקטובר 1969. התקליט הפך ללהיט מיידי, בין השאר בגלל השיר “Whole Lotta Love”.  הלהקה ביססה במהרה את מעמדה כאטרקציה כבירה בכל הנוגע להופעות חיות. בניגוד לשני האלבומים הקודמים,בהם ניכרה השפעת הבלוז על הלהקה,
 Led Zeppelin 3 ,שיצא באוקטובר 1970, היה עמוס בהשפעות ממוסיקת הפולק הבריטית.
האלבום הרביעי,  שלא נושא כותרת  (ונוהגים לכנותו Led Zeppelin 4 ), נמכר בכ- 16 מיליון עותקים. ”Stairway To Heaven” שנכלל באלבום, הפך ללהיט ענק שהעיב בפופולריות שלו על האלבום כולו. כך נדחקה לשוליים יצירת מופת נוספת, "When The Levee Breaks", בה מככבים התופים של בונהאם. "Stairway To Heaven" נחשב לשיר המנוגן ביותר ברדיו למרות שמעולם לא יצא כסינגל.
 למעשה, היתה ללד זפלין מדיניות אנטי-סינגלית, שנבעה מסירובם לשבור את אחדות האלבומים. מעבר לכך, את לד זפלין אפפה תמיד הילת מיסתורין, לא רק בגלל התחושה המיסטית שליוותה תמיד את שיריהם, והמיתולוגיה שנבנתה סביבם ( עם קריצה  ל"הוביט", ספרו של ג'י.אר.אר. טולקין)  אלא בעיקר בגלל מיעוט הראיונות שהעניקו. הקשר הבלעדי שלהם עם קהל המאזינים היה המוסיקה –  דרך האלבומים וההופעות החיות. 
להופעה של לד זפלין באטלנטה, שהתקיימה כחלק ממסע הופעות שנערך ב- 1973, הגיעו יותר מ- 50 אלף איש, קהל רב יותר מזה שפקד את ההופעה של הביטלס באיצטדיון שיי בניו-יורק ב- 1965. באותה שנה צולמה הופעה של הלהקה במדיסון סקוור גרדן, הסרט המתעד את ההופעה הופץ שלוש שנים מאוחר יותר תחת השם The Song Remains The Same.
בתום סיבוב ההופעות, שבמהלכו, אגב, הופיעו גם בהירושימה, הקליטה לד זפלין את אלבום האולפן החמישי Houses of the Holy, אלבום שהתאפיין הן באקלקטיות (השפעות ממוסיקת נשמה, רגאיי, רוק ופולק) והן בהרפתקנות.
בשנה שלאחר מכן הקימה הלהקה חברת תקליטים פרטית, "Swan Song", שנועדה לשרת את החופש היצירתי לו ערגו. בחברה הוחתמו גם , Bad Company, The Pretty Things ודייב אדמונדז. Physical Graffiti היה האלבום הראשון של הלהקה שיצא בלייבל הפרטי שלהם; לראשונה  בהיסטוריית הלהקה, הוציאה לד זפלין אלבום כפול שכלל שירים מקוריים לצד שירים שהופיעו כבר באלבומים קודמים. עם תום מסע הופעות מוצלח  באנגליה, התכוננה הלהקה לקיים סיבוב הופעות בארצות הברית, אולם פלנט ואשתו היו מעורבים בתאונת דרכים במהלך חופשה  ביוון, והלהקה נאלצה לוותר על הסיבוב המתוכנן בזמן שפלנט החלים.
ב- 1976 יצא האלבום Presence. הביקורות על האלבום היו פושרות עד אדישות ונתוני המכירות העידו על ירידה משמעותית בפופולריות הלהקה. על בית משפחת פלנט נפלה עוד טרגדיה: במהלך סיבוב ההופעות של הלהקה בארצות הברית, נפטר קאראק, בנו בן השש של פלנט, מדלקת בבטן. פלנט התבודד בביתו עד שנת 1978, אז שבה לד זפלין לעבוד על אלבום נוסף, אותו הקליטה באולפנים של להקת אבבא בשוודיה.  
אלבום האולפן השמיני, In Through The Out Door , זכה לביקורות מהללות והגיע למקום הראשון בארה"ב, שם נשאר במשך 7 שבועות רצופים. עם סיום מסע ההופעות האירופי, במהלכו הופיעו באוסטריה, גרמניה, בלגיה ושווייץ, הכינה הלהקה את עצמה לקראת מסע ההופעות בצפון אמריקה. ג'ון בונהאם, שלא חש בטוב כבר כששהו באירופה, לא רצה לצאת לסיבוב נוסף. בספטמבר 1980, הוא נמצא מת  במיטתו אחרי ששתה במשך יום שלם. דוח המנתח שלאחר המוות קבע שסיבת המוות היא חנק מן הקיא של עצמו. בדצמבר,  אותה שנה, הודיעו החברים הנותרים על פירוק הלהקה, מאחר שסירבו להמשיך לפעול ללא בונהאם.
בעקבות הפירוק פתחו חברי הלהקה בקריירות סולו. ג'ון פול ג'ון חזר לעסקי ההפקה,  ג'ימי פייג' ערך את האוסף של לד זפלין – Coda - שיצא בסוף 1982. באותה שנה הוציא רוברט פלנט את אלבום הסולו שלו -  Pictures At Eleven.  פייג' הקים את הסופרגרופ The Firm עם פול רוג'רס, הסולן של Bad Company. חברי לד זפלין מעולם לא התאחדו באופן רשמי, אך קיימו מספר הופעות בהרכבים שונים. ב- 1988 הופיעה הלהקה בחגיגות ה- 40 לחברת אטלנטיק, כשג'ייסון בונהאם, בנו של ג'ון, ממלא את מקום אביו. ב- 1994 נפגשו ג'ימי פייג' ורוברט פלנט, להקלטת מספר קטעים בפרוייקט ה-  Unplugged של ערוץ  MTV. שנה לאחר מכן ערכו פייג'  ופלנט סיבוב הופעות בינלאומי משותף, שזכה להצלחה רבה ושהוכיח שהפופולריות של לד זפלין וחבריה לא שככה, גם שנים אחרי התפרקותם.