Dal 1941 al 1945 lavora per il Counter Intelligence Corps, il servizio di controspionaggio militare americano.
Nell'autunno del 1962 entra nella loggia massonica Gian Domenico Romagnosi di Roma.
Nel Dicembre '65 viene elevato nella gerarchia massonica ed entra nella loggia Propaganda 2.
Nel '68 recluta nella P2 il gen. Allavena, dal quale riesce ad avere una copia dei 157.000 fascicoli del SIFAR. Nel frattempo è diventato maestro venerabile.
Nel '69 Gelli afferma che 400 alti ufficiali dell'esercito sono entrati nella massoneria per predisporre un "governo di colonnelli"; il capo della polizia Vicari, indirettamente, confermerà in seguito questa circostanza.
Nel 1971 Salvini tenterà di conquistare il controllo della P2 estromettendo Gelli ma non ci riesce. Nel frattempo Gelli acquista sempre più prestigio presso il governo militare argentino e i suoi interessi economici in quel paese si moltiplicano, dove inoltre recluta molti altri iscritti eccellenti alla P2; nel Febbraio 1973 sarà infatti lui a perorare la causa del ritorno di Peron presso il governo militare.
Nel '74 in un'inchiesta sul fascista Esposti, morto in un conflitto a fuoco con i carabinieri si indaga sui rapporti fra questi settori della destra e la loggia P2. Nello stesso periodo, Gelli, intrattiene anche stretti rapporti con Michele Sindona, che nel Settembre '74 fugge negli USA a causa del crack della Banca Privata Finanziaria.
Nel Marzo '81 la magistratura indaga su un eventuale favoreggiamento, del "venerabile" in un falso auto-rapimento inventato da Sindona a New York, viene, quindi, perquisita villa Wanda, la residenza di Gelli nei pressi di Arezzo, e gli inquirenti trovano un'ingente documentazione che prova l'esistenza di una cospirazione politica di destra dietro alla loggia segreta P2, alla quale risulteranno iscritti 963 (dai documenti ritrovati, ma si presuppone siano molti di più) fra politici, finanzieri, banchieri, ufficiali, funzionari dello stato ecc. I nomi sono quelli su cui nel corso degli anni convergono le inchieste sulle trame di destra e finanziarie che hanno caratterizzato la storia italiana nel dopoguerra. La P2 risulta, inoltre, avere depositi per circa mille miliardi (1.000.000.000.000) su conti bancari svizzeri.
Una commissione parlamentare d'inchiesta chiarirà poi, solo in parte, i legami esistenti fra Gelli, Michele Sindona, Roberto Calvi, la finanza internazionale, la mafia, i servizi segreti USA, golpisti di diversi paesi fra cui Italia, Argentina e Uruguay.
Il 13/9/1982 viene arrestato in Svizzera, dove rimarrà in un carcere di quel paese fino a quando non evaderà il 9 Settembre '83.