В июле 1931 года Капоне предстал перед Федеральным судом и был приговорён к десяти годам тюремного заключения в исправительном заведении Атланты за неуплату налогов. В 1934 году был переведён в тюрьму на острове Алькатрас, откуда вышел через семь лет.
Тюрьма кардинальным образом изменила судьбу некогда "успешного" гангстера - он потерял власть, значительную часть финансов и авторитет среди других мафиозных боссов. Хотя нельзя не отметить, что даже его влияние было ощутимым даже из тюрьмы. Тем не менее, Капоне так и не смог восстановить прежние позиций. Он умер от инсульта в 1947 г.
