Seu pai era um pescador de Castellammare Del Golfo na Sicília. Nasceu num cortiço do lado leste do Harlem. Aos 11 anos já liderava uma gangue de delinquentes juvenis. Sua ambição era se tornar um chefe respeitado da máfia. Na época da Lei Seca americana, Carmine Galante já ocupava um posto importante e, em 1940, comandava os "Sicários", os assassinos da máfia. Trabalhava para Vito Genovese, um dos mais poderosos mafiosos de Nova York.
Sob as ordens de Vito Genovese, Galante teria assassinado o jornalista italiano antimáfia de esquerda Carlo Tresca em 1943. Foi motorista de outra família poderosa, a família Bonanno. Mas sua ambição sempre falou mais alto, queria subir mais degraus nas escadas de espinhos do poder do crime organizado. Foi promovido por Joseph Bonanno a caporegime e depois a subchefe. Sua personalidade tinha transtornos, era um psicopata. Nessa realidade não há lugar para sentimentos puros.
Sua ascensão ao poder teve uma parada repentina quando sua prisão foi orquestrada por Frank Costello e outros inimigos. Foi condenado a 20 anos de prisão por tráfico de drogas. Sempre andava com um charuto preso nos lábios de sua boca e foi desse vício que nasceu seu apelido, The Cigar ou Charuto. Frank Costello já havia morrido de causas naturais. Carmine Galante escutou a voz do seu ódio e mandou que colocasse bombas no túmulo do seu pior inimigo e explodiu as portas do mausoléu de Frank Costello. Sai da prisão em liberdade condicional.
O chefe da Família Bonanno era naquele momento, Phillip Rastelli, o "Rusty". The Cigar ou Charuto tinha intensa rivalidade com a Família de Carlo Gambino e organizou os assassinatos de oito membros de Gambino. Começa a ter mais inimigos. Sua ambição continuava alimentando a sua sede de poder. Sua prepotência achava que jamais seria assassinado, não teriam coragem, dizia. A ganância de Carmine Galante, pelo controle do multimilionário negócio de heroína, ascendeu a luz vermelha dos interesses das outras famílias.
The Cigar não se mostrava propenso a dividir os lucros desse lucrativo negócio. Um dia ele foi almoçar no restaurante do seu primo, Giuseppe Turano, localizado no Brooklyn. Tinha comprado brigas também com Lucky Luciano. Seu nome já estava escrito no livro da morte da máfia, era visto como o Calígula da Máfia italiana. Seus dois guarda-costas, Baldassare Amato e Cesare Bonventre, tinham sido comprados por Alphonse "Sonny Red" Indelicato.
Galante estava com seu charuto na boca quando o filho de Sonny Red, Anthony Indelicato, junto com Dominick "Big Trin" Trincheira e Louie Gaeta, entram no restaurante com escopetas calibre 12 e matam Carmine Galante, seu primo e seu guarda-costas Leonard Copolla. Galante foi morto com tiro na face e outro no peito. Caiu morto com seu charuto preso nos seus lábios. Mesmo morto Galante fez jus ao seu famoso apelido. O Sindicato da Cosa Nostra americana promoveu uma grande festa, onde simbolicamente os convidados recebiam um charuto e um cartão com a seguinte frase: "Enquanto a brasa desse charuto estiver acesa, reze pela alma de Galante".
