1976 lämnade gruppen Motown, efter att ha släppt ca 11 singlar som sålt i över 100 miljoner exemplar, och skrev på för "Epic Records". Michaels äldre bror Jermaine, som då var gift med Berry Gordys dotter Hazel, valde att stanna på Motown och satsa på sin solokarriär. Jermaine blev ersatt av Michaels yngre bror Randy Jackson, och tillsammans med sina andra bröder bildade de "The Jacksons", eftersom namnet The Jackson 5 tillhörde Motown.

The Jacksons stora succélåtar var bland annat "Blame It On the Boogie", "Shake Your Body (Down To the Ground)", "Things I Do For You", "Lovely One", "Heartbreak Hotel" (namnet på den låten ändrades senare till "This Place Hotel), "Can You Feel It" och "State of Chock", en duett med Michael och Mick Jagger. Från början var det tänkt att Queensångaren Freddie Mercury skulle ha sjungit låten med Michael, men samarbetet avbröts. Dock har låten där Michael och Freddie sjunger tillsammans läckt ut på internet.

The Jacksons släppte sammanlagt sju stycken album. Det första var The Jacksons, vars största hit blev "Enjoy Yourself" och "Show You The Way To Go". Albumet blev inte någon jättesuccé, men deras nästa album Destiny blev mer framgångsrikt, med låtar som "Shake Your Body (Down To the Ground)" och "Blame It On the Boogie". Deras tredje album Triumph hade en mindre hit med låten "Can You Feel It", en hyllningslåt till mänskliga relationer och enighet. Brodern Jermaine Jackson återförenades senare med gruppen, varpå deras näst sista skiva Victory utgavs. Michael sade att efter "Victory Tour" 1984 så skulle han lämna gruppen och satsa på sin solokarriär. The Jacksons släppte 1989 sin sista skiva 2300 Jackson Street utan Michael och Marlon.

Joe och Katherine upptäckte att deras söner hade musikaliska talanger och började träna dem hårt. Tito visade sig vara bra på gitarr och Jermaine var från början ledsångare. Först hette gruppen "The Jackson Brothers" men ändrades senare till "Jackson 5". Joe blev deras manager och ordnade så att de fick spela på nattklubbar och talangjakter. Bröderna blev väldigt kända i staden som de bodde och efter att ha vunnit en stor lokal talangjakt så började de spela på mer professionella gig och de fick ett kontrakt på "Steeltown Records" där de spelade in och släppte sin första singel "Big Boy", som blev en regional hit. Jackson 5 turnerade ofta i Indiana. Bröderna vann ännu en talangjakt på Appollo Theater i Harlem där bl.a. Gladys Knight satt i publiken och blev väldigt imponerad. Hon rekommenderade gruppen till Motowns grundare Berry Gordy, men eftersom han redan hade en tonåring, Stevie Wonder, så var han tveksam till att signera fler tonåringar.

Efter att ha spelat som förband till Bobby Taylor & The Vancouvers, som blev djupt imponerad av det han såg, så ordnade han en audition för Motown, där de spelade och sjöng James Brown-låten "I Got the Feelin'". Berry Gordy var inte med när de spelade men Bobby Taylor och Motown-anställde Suzanne de Passe spelade in auditionen på band och skickade den till Berry. Berrys tveksamhet försvann direkt efter att ha sett bröderna uppträda och signerade dem direkt.

Många av deras låtar var covers på andra Motown-artisters låtar såsom Sly and the Family Stones "Stand!" och The Miracles "Who's Lovin' You", skriven av Smokey Robinson.

År 1969 såg Gordy till att flytta Joseph och Jackson 5 till Kalifornien; Joseph, Jackie, Tito och Jermaine fick bo hos Gordy, medan Michael och Marlon fick bo hos Diana Ross. Josephs fru Katherine fick bo kvar i Gary med sina döttrar Janet, La Toya och Rebbie.

Många av Jackson 5:s låtar var skrivna av "The Corporation", som bestod av Berry Gordy, Alphonzo Mizell, Deke Richards och Freddie Perren. Gruppen hade många framgångsrika år i Motown. Deras första stora hit hette "I Want You Back" (1969) som gick upp på förstaplatsen på den amerikanska Billboard-listan. Uppföljarna "The Love You Save", "ABC" och "I'll Be There" gick också upp på förstaplatsen. "Never Can Say Goodbye", "Mama's Pearl" och "Dancing Machine" blev också stora succéer. I Sverige är "Goin' Back to Indiana" deras största hit.

Nu när de hade blivit lite rikare och mer framgångsrika kunde Katherine och resten av familjen också flytta till Kalifornien, där de köpte en stor herrgård som de döpte till "Hayvenhurst".

Jackson 5 hade nu blivit otroligt populära och de fick till och med sin egen tecknade serie.

Efter 1972 tappade Jackson 5 lite av sin popularitet, vilket enligt Joseph berodde på att Motown inte markandsförde bröderna tillräckligt och att de inte fick skriva och spela in sina egna låtar, trots att de spelade alla instrumenten själva live. Joseph kände att Jackson 5 skulle kunna bli ännu mer populära och framgångsrika utan Motown och började leta efter ett nytt skivbolag.