5 שנים לאחר שעזב, קארל ג'ונסון (המכונה סי. ג'יי) חוזר לעיר הולדתו לוס סנטוס (los santos) בעקבות הודעה שאחיו סוויט (sweet) מסר לו: אימו ברנדי מתה. קארל חוזר לשכונה ומגלה שהכנופיה שלו, "משפחות גרוב סטריט" ( grove street families) לא חזקה כמו פעם. כשקארל מגיע לשכונה, עוצרים אותו שלושה שוטרים מושחתים, בראשם נמצאפרנק טנפני, והוא מאלץ את קארל לעבוד בשבילו. בהלוויה, קארל פוגש את שני חברי הילדות שלו: ריידר (Ryder) המסומם וביג סמוק (Big Smoke) השמן. לאחר מכן, מחליט קארל לאחד את הכנופיה שלו ולהחזיר אותה למה שהייתה פעם, בעזרת ריסוס כתובות, גניבות מעסקים, ניקוי השכונה מסוחרי סמים , והריגת חברי כנופיה יריבה, ה"באלאס" (ballas), האויבים המושבעים של grove street families. בשלב מסוים, אחותו של קארל, קנדל(kendel) מציגה את החבר החדש שלה בפני קארל, סיזר ויאלפאנדו (Cesar Vialpando), ראש כנופיה נוספת בלוס סנטוס, ה"אזטקאס" (aztecas), שנמצאים ביריבות עם הכנופיה האחרונה בלוס סנטוס, ה"ואגוס" (vagos). קארל פוגש חבר של ביג סמוק, או.ג'י לוק (O.G Loc) ראפר ממוצע אשר רוצה להגיע לפסגה. לשם כך הוא מעביר לקארל מספר משימות שמטרתם להביא אותו לפסגה, ביניהם קארל פורץ לאחוזה של אחד הראפרים העשירים ביותר, מאד דוג (madd dog), וגונב ספר שירים, ובמשימה אחרת הוא הורג את המנג'ר שלו.

סוויט מתכנן לסיים את המלחמה בקרב כנופיות ענק, אך לפני שקארל מגיע למקום, סיזר חושף בפניו את הזהות האמיתית של ביג סמוק וריידר, ומגלה לו שהם עבדו עם טנפני ושהם היו קשורים לרצח של אמא של קארל. כשקארל מגיע, הקרב כמעט נגמר ובשיאה המשטרה מופיעה ועוצרת את כולם. קארל מתעורר בניידת של טנפני שהביא אותו לכפרים, מרוחק מהכל. קארל נוכח לדעת שאחיו במאסר עולם בבית חולים, מפני שנפצע קשה, אך סיזר מתקשר אליו ואומר לו שאחותו בריאה ושלמה, והוא שומר עליה. הוא מוסיף שנהרגו כמה מהחברים שלו בכנופיה שלו. קארל מנסה למצוא דרך להוציא את סוויט מהכלא, ולנקום בריידר וסמוק.

קארל פוגש את טנפני מסומם לגמרי אשר אומר לקארל שהוא חייב לשלם על כל הסמים שקנה מאיש בשם "האמת" (the truth), היפי מוזר ודי מצחיק. סיזר אומר לקארל שיש לו בת דודה בשם קטלינה (Catalina) שחיה בהרים, והיא יכולה להשיג לו את הכסף. קארל פוגש אותה ונוכח לדעת שהיא משוגעת לגמרי. לאחר מספר משימות שקארל עשה עבור קטלינה, סיזר מתקשר אליו ומודיע לו שיש מרוץ בהרים, ושהפרס במקום הראשון ישלים לו את החוב. במרוץ הראשון הוא פוגש איש סיני בשם וו זי מו (Wu zi mu), המכונה רוב הזמן "ווזי" (Woozy) שהוא נהג מירוצים עיוור לגמרי. לאחר שקארל מנצח, ווזי משלם לו ונותן לו את מספר הטלפון שלו למקרה שהוא ירצה לעשות עסקים איתו בהמשך.

המירוץ השני הוא אותו דבר רק בכיוון ההפוך, ושם קארל פוגש את קטלינה יחד עם החבר החדש שלה, קלאוד ספיד (הדמות הראשית של GTA-3) קטלינה משתמשת בו כדי לגרום לקארל לקנא (מה שלא ממש עובד) ולאחר הניצחון במירוץ, קלאוד נותן לקארל את המוסך שלו שנמצא בסן פיירו. קארל הולך לשלם ל-the truth את הכסף, בזמן שהם נפגשו משטרה עמדה להגיעה אז בינתיים the truth וקארל שרפים את כל השדות סמים של the truthונסעים למוסך שקארל זכה. ואז סיג'יי מגלה שקלאוד עבד עליו ונתן לו מוסך ריק לחלוטין. "האמת" מגייס כמה חברים שלו, שאחד מהם הוא גאון מחשבים שקוראים לו זירו (zero), כדי שיוכלו לשפץ את המוסך ולעזור לקארל במשימות. קארל קורא לווזי, וזה מחליט לחבור איתו ביחד, בתמורה לכך שקארל יעשה כמה משימות בשביל המאפייה הסינית שברשותו.

הוא מתחנף לסרסור גדול מאוד (ג'יזי) שעובד עם אדם בשם טי-בון מנדז (t-bone) ועם אדם בשם מייק טורינו (mike toreno) כדי להתקרב לריידר, שהוא חבר קרוב של שלושתם. כשהוא הורג את ג'יזי, הוא לוקח לו את הטלפון ושומע מטי-בון איפה שלושתם אמורים להיפגש עם ריידר. כשקארל וסיזר מגיעים, מתנהל קרב כנופיות. קארל וסיזר מגיעים לטי-בון והורגים אותו, אך מייק טורינו מצליח לברוח ואילו ריידר תופס סירה ובורח. קארל קופץ למים, גונב סירה ועושה עליו דרייב ביי מהסירה. קארל בסופו של דבר הורג אותו.

לאחר שהרג את ריידר, קארל מקבל דיווח על המיקום של מייק ומנסה לצוד אותו. כאשר קארל מגיע למקום הימצאו, מייק בורח במסוק. אך קארל מצליח לפגוע בו עם "RPG" והמסוק מתרסק. לאחר מכן, קארל מקבל טלפון מאיש מסתורי שקורא לו להגיע למדבר שנמצא בין לאס ונטוראס לבין סאן פיירו (טיירה רובדה). האיש אומר לו שהוא יוכל להוציא את אחיו מהכלא, ומסתבר שהוא יודע כמעט הכל על קארל. כשקארל מגיע למדבר, הוא מוצא שם את מייק, ששרד את הנפילה של המסוק ומסתבר שהוא סוכן חשאי של הממשלה, שלא באמת עבד עם ג'יזי וריידר. הוא מעביד את קארל במשימות מתישות במדבר, ומכריח את קארל ללמוד לעוף בבית ספר לטיסה.

לאחר מכן, ווזי מתקשר לקארל ומספר לו שיש לו קזינו גדול מאוד בלאס ונטוראס, והוא רוצה שקארל יבוא לעזור לו שם ולעשות איתו עסקים. קארל מגיע ומגלה שיש קזינו שנמצא בהמשך הרחוב בשם קליגולה פאלאס, שהמאפיות האזוריות מנהלות. בין המאפיות יש את סינדאקו פאמילי, שכרגע היא הבעלים הראשיים, אך קארל "מטפל" בראש משפחת סינדאקו, ג'וני, שלאחר התעללות קצרה, עם המכונית, מובהל לבית חולים. קארל מתכנן תוכנית ענקית של פריצה לקזינו, אז הוא גונב חומרי נפץ, ארבעה אופנועי משטרה, שותל חומרי נפץ על הגנרטורים שבתחנת הכוח של לאס ונטוראס וגונב מסוק+משאית של משוריינת להעברת כספים.

קארל מגלה שהמאפיות מזיקות לקזינו של ווזי, ונשלח לטפל בהם במפעל הפלסטיק של משפחת סינדאקו, כשהוא מסיים, "האמת" מודיע לקארל שהוא שכח שני חברים שלו במדבר (פול ומאקר, פול מופיע ב-VICE CITY). קארל לוקח אותם ומסתבר ששניהם חברים של קן רוזנברג (העורך דין של טומי מוייס סיטי)וקן הוא המנהל הזמני החדש של הקזינו קליגולה, כך שקארל מצא לעצמו פרצה חדשה בקליגולה. קן מבקש מקארל שיוציא את ג'וני סינדאקו מבית החולים, כשקארל מגיע הוא מגלה שהפרלי (the Forelli family) כבר הקדימה את קארל ולקחה את ג'וני סינדאקו כדי לסגור חשבונות, קארל מוצא את ג'וני שנמצא במושב האחורי של האמבולנס ולא יודע מה קורה בחוץ, הוא לוקח את האמבולנס בחזרה למפעל הפלסטיק של סינדאקו, וג'וני לא ראה כל המשימה שהנהג שלו הוא קארל.

אחר כך, קן מנסה לבנות לעצמו ביטחון עצמי, והוא נוסע עם קארל למפעל הבשר של סינדאקו לדבר עם ג'וני ולסגור כמה פינות, לרוע המזל ג'וני עוד זוכר שקארל הוא זה שכמעט הרג אותו וכשג'וני (שהגיע עם כיסא גלגלים) קיבל את פניהם הוא מת מהתקף לב כשראה את קארל, ואז קארל וקן היו צריכים להרוג כמה אנשים ממשפחת סינדאקו (the Sindacco Family). משסיימו, הם נסעו בחזרה לקזינו של קן. כשקארל מגיע לקליגולה לפגוש את קן, הוא רואה את סלבטורה לאון (Salvatore Leone), ראש משפחת פשע (the Leone Family) שהחליט להריץ את העניינים ולקח את קן ושני חבריו בתור עבדים. קארל אומר לסלבטורה שהוא מכיר את בנו ג'ואי עוד מליברטי סיטי. וסלבטורה בוחן את קארל במשימה מטורפת , שאחריה הוא זוכה באמונו של סלבדור.

טנפני קורא לקארל וגורם לו להגיע לישיבה של האפ.בי.איי ולקחת כמה מסמכים בשביל טנפני ומודיע לו להרוג שם את כולם. לאחר מכן, טנפני, פולאסקי והרננדז פוגשים את קארל עם המסמכים באמצע המדבר, טמפני ומכה את השוטר הרננדז, שהתברר שהוא סיפר למשטרה על השחיתות של טנפני. טנפני עוזב ומשאיר את קארל עם השוטר פולאסקי, שאומר לקארל לחפור שני קברים, אחד בשביל השוטר הפצוע ואחד בשביל קארל. כשקארל מסיים, הרננדז מנסה להרוג את פולאסקי אך פולאסקי יורה בו. בינתיים קארל תופס מכונית ורודף אחרי פולאסקי שמנסה לברוח. אחרי מרדף קארל הורג את פולאסקי. קארל פוגש את מאדד דדוג, הראפר שקארל גנב לו את ספר השירים והרג את המנהל שלו. מאד דוג שיכור ומתכונן להתאבד מפני שאין לו עוד טעם בחיים, אך קארל מציל אותו ברגע האחרון והוא מביא אותו לבית חולים, ומאד דוג אומר לקארל שהוא צריך מנג'ר חדש והוא יוכל להיות המנג'ר החדש שלו.

סלבטורה לאון קורא לקארל למשימה אחרונה בשבילו, הוא מבקש ממנו לטוס לליברטי סיטי כדי לטפל במאפיה השלישית הפרלי (the Forelli Family). קארל אומר לסלבדור שהוא צריך את העזרה של קן ושני חבריו וסלבדור משחרר אותם. כשהם בחוץ, קארל משחרר את קן ושני חבריו ואומר להם לצאת כמה שיותר מהר מהעיר. לאחר שקארל מסיים את המשימה, הוא מתכנס עם ווזי, זירו (zero), שרת והמאפייה הסינית לתכנן את הפריצה הגדולה לקליגולה פאלאס. לאחר פריצה ארוכה מאוד עד ליסודות הקזינו, ובריחה מהמשטרה, קארל מצליח לפרוץ בעזרת חבריו לקליגולה, ומקבל בסוף המשימה 100,000$ בתור פרס. סלבטורה לאון מתקשר ואומר שהוא עוד יהרוג את קארל ואת משפחתו, אבל לא ישמעו ממנו יותר.

בינתיים מאד דוג החלים ומסתבר שהוא מכר את האחוזה ששווה ביליונים שהייתה ברשותו לביג פאפה (סוחר סמים), שמנהל חלק גדול בכנופיית הוואגוס וקארל טס יחד עם המאפיה הסינית במטוס אשר נוחתים על הגג של האחוזה, לאחר קרב ארוך ומרדף אחרי ביג פאפה, קארל הורג אותו ואז האחוזה נהפכת למקום שניתן לשמור בו. לאחר הקלטה של שיר באולפנים של מאדד דוג, מייק טורינו קורא לקארל החוצה, ומכריח אותו לגנוב מטוס קרבי של חיל האוויר ולפוצץ איתו 4 ספינות ריגול. אחר כך, מייק קורא לקארל עוד פעם, ולקארל נמאס והוא מאיים על מייק עם אקדח. מייק אומר לו שהמשימה שלו הפעם זה רק לענות לטלפון. בצד השני נמצא סוויט שאומר שפתאום שחררו אותו מהכלא, מייק אומר לו לקחת את סוויט מחוץ לבניין המשטרה.

כשקארל מגיע הוא מספר לסוויט מה הוא עבר, וסוויט רק כועס שהוא לא חושב יותר על השכונה שהם גדלו בה. הם חוזרים לבית של קארל ורואה שהבאלאס השתלטו על כל השטח שפעם היה שלהם. קארל וסוויט כובשים חזרה את השטח שלהם ונגמרת המשימה. בינתיים, מאד דוג מתעצבן על כך שאו.ג'י.לוק זוכה בתהילה שאמורה להיות שלו, ומגלה שספר החרוזים שלו נמצא אצלו, הוא וקארל נוסעים למקום שבו הוא מצלם את נקליפ החדש שלו ופוגשים אותו, הם רודפים אחריו ברחפות, ומשם בקארטינג ולבסוף הוא לוקח את ספר השירים בחזרה, ואו. ג'י חוזר להיות האפס שהוא היה פעם. אחר כך קארל וסוויט מגייסים את חברי גרוב לשעבר בחזרה, וכובשים הרבה שטחים שנמצאים בלב האזור של הבאלאס. קארל מתכנס עם כל האנשים שהיו שותפים וחברים שלו מתחילת המשחק באחוזה של מאד דוג ורואים בטלוויזיה, שטמפני זוכה במשפט עקב חוסר ראיות (כל העדים שהיו אמורים להעיד נגדו מתו או שנעדרו), אבל הושעה מתפקידו כשוטר, בגלל שטמפני זוכה במשפט כל האזרחים של לוס סאנטוס יוצאים מהבתים ומקימים מהומות: מפוצצים מכוניות, מרביצים לשוטרים, גונבים מבתים אחרים ומעלים בתים באש (בדומה למאורעות לוס אנג'לס בשנת1992)

בזמן המהומות, סיזר מבקש מקארל טובה, שהוא יעזור לו להחזיר את האזטקאס למה שהיו פעם. הוא וקארל נפגשים עם כמה מאחרוני האזטקאס וכובשים את האזור שלהם בחזרה מהוואגוס. אחר כך קארל מקבל טלפון מסוויט, שאומר לו שכדי למצוא את המיקום של ביג סמוק הוא צריך לכבוש הרבה שטחים (35% בערך..) כדי לשכנע אנשים לספר לו איפה הוא. ואז אנשים מתחילים לדבר. קארל מגלה שביג סמוק מתחבא בבניין למפעל סמים בצפון מזרח לוס סאנטוס.

במשימה האחרונה, קארל וסוויט מתכננים לבדם לפלוש לבניין ולחסל את ביג סמוק. לבניין ארבע קומות, ומסתבר שביג סמוק מנהל חלקים נכבדים מכל הכנופיות והמאפיות שקארל פגש מתחילת המשחק. כשקארל מגיע לביג סמוק, מתנהל קרב יריות שבסופו ביג סמוק נהרג. באותו זמן, טנפני מופיע ומאיים על קארל באקדח, שיניח את כל הדולרים שיש בחדר בתיק שלו, ולאחר שקארל מסיים, טנפני מתכונן להרוג אותו. סיג'יי צועק "סוויט" וככה הוא עבד על טנפני, והוא בורח, וטנפני מעלה את כל הבניין באש כדי להרוג את קארל. קארל בורח אחריו מהבניין ובשנייה האחרונה מצליח לצאת.