Tornato in Italia, iniziò a lavorare nella radiofonia RAI dove conobbe un grandissimo successo assieme a Renzo Arbore, nei programmi culto a cavallo tra gli anni '60 e '70 come Bandiera Gialla e Alto Gradimento, determinanti per la diffusione della musica beat in Italia. La coppia creò un nuovo modo di fare intrattenimento, basato sul non-sense, sulla creazione di tormentoni, sull'improvvisazione e l'imprevedibilità.
Fa parte della prima serie del programma quotidiano del mattino Chiamate Roma 3131 insieme a Franco Moccagatta e Federica Taddei, 1969.
L'arrivo in televisione
Nel 1977 Boncompagni approda sugli schermi tv della RAI, dove conduce il programma musicale Discoring, anche questo di straordinario successo: fu uno dei primi programmi musicali destinato a un pubblico esclusivamente giovanile, con un proprio gergo, e con le ultime tendenze del momento sia musicali sia nell'abbigliamento.
Da allora le esperienze televisive si susseguirono continuamente: Superstar e Drim nel 1980 e poi, per quasi 10 anni in coppia con Giancarlo Magalli come autore, Sotto le stelle e Patatrac nel 1981, Illusione, musica, balletto e altro nel 1982 e Galassia 2 nel 1983.
Oggi è conosciuto soprattutto come autore e regista di trasmissioni di grande successo popolare: Pronto, Raffaella? che consacrò la sua ex compagna Raffaella Carrà (1983/1985) che vinse nel 1984 il titolo di Personaggio televisivo femminile a livello europeo consegnato dall'European TV Magazines Association e per la quale scrisse spesso i testi di alcune delle sue più famose canzoni. Proseguì con Pronto, chi gioca? che lanciò la carriera televisiva di Enrica Bonaccorti (1985/1987). Dal 1987 al 1990 curò l'ideazione e la realizzazione di Domenica In, dove lanciò numerosi personaggi televisivi: Edvige Fenech e Marisa Laurito raggiunsero una notevolissima fama televisiva con lui, che però non seppero conservare nel tempo. Fu proprio a Domenica In che nacque l'idea del cruciverbone e del pubblico di ragazzine figuranti, dotate di talento o semplicemente carine e petulanti, che iniziarono a ritagliarsi spazi sempre maggiori nella programmazione pomeridiana e che ebbero la loro consacrazione con Non è la RAI.
Alla Fininvest
Risale infatti al 1991 il passaggio alle reti Fininvest (oggi Mediaset) con Non è la RAI: l'ennesimo programma di culto con Enrica Bonaccorti, Antonella Elia, in onda da quell'anno fino al 1995. In quelle quattro edizioni Boncompagni è stato sempre al centro delle attenzioni dei media a causa degli scandali legati al programma condotto dalla ancora minorenne Ambra Angiolini. Lo stesso anno realizzò anche Primadonna con Eva Robin's, Bulli & pupe (estate 1992) e poi Rock 'n' Roll (1993), praticamente degli spin-off nati dal travolgente successo. Il suo alter-ego in quel periodo è Irene Ghergo, coautrice dei suoi programmi.
A Non è la RAI lanciò il personaggio di Ambra, che all'epoca fu un vero e proprio fenomeno di costume, ma dalla fucina del programma pomeridiano furono moltissime le personalità del mondo dello spettacolo che ebbero il loro debutto e che in seguito si distinsero in vari campi dello spettacolo: da Claudia Gerini a Laura Freddi, da Sabrina Impacciatore a Nicole Grimaudo,Antonella Elia, da Miriana Trevisan a Lucia Ocone. Nella stagione 1995-1996 collaborò ad un ultimo programma in Mediaset con il programma pomeridiano Casa Castagna, presentato da Alberto Castagna.
Il ritorno in RAI
Tornato in RAI, nel 1996 e 1997 diresse Macao, con Alba Parietti nella prima edizione e nella seconda con "PI" (personaggio creato graficamente per sopperire all' abbandono della Parietti), tutto sommato una variante del modulo di Non è la Rai, con comici, canzoni, ritornelli e un pubblico di figuranti-protagonisti, dove per la prima volta usò anche personaggi maschili. Uno dei personaggi maschili fu l'attore e doppiatore Mirko Savone che attualmente vive e lavora a New York. Successivamente ha fatto parte della Commisione Artistica del Festival di Sanremo 1998 ed ha collaborato con Piero Chiambretti per Chiambretti c'è.
Nel 1998 realizza per raidue il programma di prima serata "Crociera" condotto da Nancy Brilli, gli ascolti sono molto bassi e la trasmissione viene soppressa dopo una sola puntata.
Il 9 giugno 2004 ha firmato la regia televisiva per Rai2 e Rai International del concerto di Elton John allo Stadio di Reggio Calabria, in Omaggio a Gianni Versace.
Ultimamente ha centellinato le sue presenze televisive, prendendo parte ad alcuni progetti come l'edizione di Domenica In 2005-2006, dove però ha abbandonato il posto dopo appena una puntata.
Bombay
Il 23 ottobre 2007 Gianni Boncompagni torna in TV con un nuovo programma, dal titolo Bombay, trasmesso dall'emittente La7. Esattamente come nei suoi precedenti programmi, Bombay presenta scenografia minimale e pubblico composto da ragazze cantanti e vocianti; lo studio è diviso in due parti: una, molto grande, ospita la sala regia, affollata di ragazze, ed un'altra, molto piccola, completamente tappezzata di rose gialle, che rappresenta il vero set televisivo, al cui interno vengono ospitati personaggi bizzarri che discutono su temi d'attualità sprofondando in dialoghi dell'assurdo.