Na década de 1830, a escravidão surgiu como uma questão cada vez mais polarizadora nos Estados Unidos. Adversário de longa data da escravidão, Adams usou seu novo papel no Congresso para combatê-la, e tornou-se o líder nacional mais proeminente contra a escravidão. Depois de uma de suas vitórias na reeleição, ele disse que deveria "fazer nascer um dia profetizado quando a escravidão e a guerra serão banidas da face da terra". Ele escreveu em seu diário particular em 1820:
A discussão desta questão do Missouri traiu o segredo de suas almas. No abstrato eles admitem que a escravidão é um mal, eles a negam e a jogam tudo sobre o ombro da... Grã-Bretanha. Mas quando sondados até o fim, eles mostram no fundo de suas almas orgulho e vanglória em sua condição de domínio. Eles desprezam a simplicidade das maneiras de um ianque, porque ele não tem hábitos de prepotência como os deles e não pode tratar os negros como cães. É entre os males da escravidão que ele mancha as próprias fontes do princípio moral. Ela estabelece falsas estimativas de virtude e vício: para que pode ser mais falsa e sem coração do que esta doutrina que faz os primeiros e mais santos direitos da humanidade dependerem da cor da pele?
Em 1836, em parte em resposta à apresentação consistente de petições de cidadãos de Adams solicitando a abolição da escravidão no Distrito de Columbia, a Câmara dos Deputados impôs uma "regra da mordaça" que imediatamente apresentou quaisquer petições sobre escravidão. A regra foi favorecida pelos democratas e pelos Whigs do Sul, mas foi amplamente oposta por Whigs do Norte como Adams.
No final de 1836, Adams iniciou uma campanha para ridicularizar os proprietários de escravos e a regra da mordaça. Ele freqüentemente tentava apresentar petições anti-escravatura, muitas vezes de maneiras que provocavam fortes reações dos representantes do Sul. Embora a regra da mordaça tenha permanecido em vigor, a discussão inflamada por suas ações e as tentativas de outros de silenciá-lo levantaram questões sobre o direito de petição, o direito ao debate legislativo e a moralidade da escravidão. Adams lutou ativamente contra a regra da mordaça por mais sete anos, acabando por mover a resolução que levou à sua revogação em 1844.
Em 1841, a pedido de Lewis Tappan e Ellis Gray Loring, Adams juntou-se ao caso dos Estados Unidos v. The Amistad. Adams foi à Suprema Corte em nome dos escravos africanos que haviam se revoltado e apreendido o navio espanhol Amistad. Adams compareceu em 24 de fevereiro de 1841 e falou por quatro horas. Seu argumento foi bem sucedido; a Corte decidiu a favor dos africanos, que foram declarados livres e voltaram para suas casas.
