Joe och Katherine upptäckte att deras söner hade musikaliska talanger och började träna dem hårt. Tito visade sig vara bra på gitarr och Jermaine var från början ledsångare. Först hette gruppen "The Jackson Brothers" men ändrades senare till "Jackson 5". Joe blev deras manager och ordnade så att de fick spela på nattklubbar och talangjakter. Bröderna blev väldigt kända i staden som de bodde och efter att ha vunnit en stor lokal talangjakt så började de spela på mer professionella gig och de fick ett kontrakt på "Steeltown Records" där de spelade in och släppte sin första singel "Big Boy", som blev en regional hit. Jackson 5 turnerade ofta i Indiana. Bröderna vann ännu en talangjakt på Appollo Theater i Harlem där bl.a. Gladys Knight satt i publiken och blev väldigt imponerad. Hon rekommenderade gruppen till Motowns grundare Berry Gordy, men eftersom han redan hade en tonåring, Stevie Wonder, så var han tveksam till att signera fler tonåringar.

Efter att ha spelat som förband till Bobby Taylor & The Vancouvers, som blev djupt imponerad av det han såg, så ordnade han en audition för Motown, där de spelade och sjöng James Brown-låten "I Got the Feelin'". Berry Gordy var inte med när de spelade men Bobby Taylor och Motown-anställde Suzanne de Passe spelade in auditionen på band och skickade den till Berry. Berrys tveksamhet försvann direkt efter att ha sett bröderna uppträda och signerade dem direkt.

Många av deras låtar var covers på andra Motown-artisters låtar såsom Sly and the Family Stones "Stand!" och The Miracles "Who's Lovin' You", skriven av Smokey Robinson.

År 1969 såg Gordy till att flytta Joseph och Jackson 5 till Kalifornien; Joseph, Jackie, Tito och Jermaine fick bo hos Gordy, medan Michael och Marlon fick bo hos Diana Ross. Josephs fru Katherine fick bo kvar i Gary med sina döttrar Janet, La Toya och Rebbie.

Många av Jackson 5:s låtar var skrivna av "The Corporation", som bestod av Berry Gordy, Alphonzo Mizell, Deke Richards och Freddie Perren. Gruppen hade många framgångsrika år i Motown. Deras första stora hit hette "I Want You Back" (1969) som gick upp på förstaplatsen på den amerikanska Billboard-listan. Uppföljarna "The Love You Save", "ABC" och "I'll Be There" gick också upp på förstaplatsen. "Never Can Say Goodbye", "Mama's Pearl" och "Dancing Machine" blev också stora succéer. I Sverige är "Goin' Back to Indiana" deras största hit.

Nu när de hade blivit lite rikare och mer framgångsrika kunde Katherine och resten av familjen också flytta till Kalifornien, där de köpte en stor herrgård som de döpte till "Hayvenhurst".

Jackson 5 hade nu blivit otroligt populära och de fick till och med sin egen tecknade serie.

Efter 1972 tappade Jackson 5 lite av sin popularitet, vilket enligt Joseph berodde på att Motown inte markandsförde bröderna tillräckligt och att de inte fick skriva och spela in sina egna låtar, trots att de spelade alla instrumenten själva live. Joseph kände att Jackson 5 skulle kunna bli ännu mer populära och framgångsrika utan Motown och började leta efter ett nytt skivbolag.