Amon Amarth foi formada a partir da banda anterior, Scum, que foi formada em 1988. Após uma demonstração em 1991, a banda se separou. Johan Hegg convenceu os outros membros a se reunirem novamente, e eles formaram o Amon Amarth em 1992. Eles gravaram sua primeira demo, Thor Arise (1993), com Johan Hegg nos vocais, Anders Hansson na guitarra e Ted Lundström no baixo. Ela nunca foi lançada porque era de baixa qualidade. No entanto, a banda chamou a atenção de muitos fãs de metal extremo. Em 1994, outra demo, The Arrival of the Fimbul Winter, foi gravada e 1.000 cópias foram lançadas.
Eles então assinaram com a Metal Blade Records e lançaram seu primeiro álbum, Once Sent from the Golden Hall. O álbum tornou Amon Amarth famoso internacionalmente. Em junho de 1998, Amon Amarth estava prestes a entrar em turnê com Deicide, Six Feet Under, Brutal Truth quando o guitarrista Anders Hansson saiu e foi substituído por Johan Soderberg. Após a turnê, Martin Lopez desistiu de se juntar a Opeth e Fredrik Andersson (ex-A Canorous Quintet) entrou. Com ele, na primavera de 1999, a banda gravou e lançou seu segundo full-length, The Avenger.
Eles lançaram The Crusher em 2001, e foram em turnê para apoiá-lo com Marduk, Vader. Estava planejado para ser realizado nos Estados Unidos, mas foi cancelado por causa dos ataques de 11 de setembro. Foi realizado um ano mais tarde, mas desta vez sem a Marduk. Em abril de 2002 a banda fez uma turnê pela Europa com o Vomitory e em agosto se apresentou no Wacken Open Air diante de 12.000 fãs. Versus The World, seu 4º álbum de estúdio, foi lançado em 18 de novembro de 2002. A edição bônus do álbum incluiu suas demos anteriores. A turnê continuou até a primavera de 2004, quando a banda começou a trabalhar no álbum Fate of Norns, que foi lançado em 6 de setembro de 2004. Com Oden on Our Side foi lançado dois anos depois, e Allmusic disse sobre a banda, "Amon Amarth continua sendo campeão do torneio mundial de death metal".
Eles foram em turnê na Austrália e Nova Zelândia pela primeira vez em janeiro de 2008. Eles fizeram uma turnê com Dimmu Borgir após terminarem outra com o Sonic Syndicate e Himsa.
Amon Amarth ampliou seu contrato discográfico com a Metal Blade Records em 2008 para mais três álbuns. Após estender seu contrato com a gravadora, a banda lançou Twilight of the Thunder God. O álbum teve muitas participações de convidados, incluindo Lars Göran Petrov, Roope Latvala, e Apocalyptica. O álbum veio com uma tira cômica de oito páginas baseada na mitologia nórdica, que foi lançada por revistas na Europa. Twilight of the Thunder God teve muito sucesso e chegou ao número 6 na Alemanha, número 10 na Finlândia, número 11 na Suécia, número 14 na Áustria, número 21 na Suíça. Acabou na posição de número 7 no Top 20 Álbuns da Revista Revolver naquele ano.
A banda fez outra turnê pela América do Norte em outubro de 2008 junto com Ensiferum, Belphegor e The Absence. Amon Amarth fez seu primeiro show na Índia, encabeçando o Deccan Rock Festival em Bangalore em 5 de dezembro de 2009 e tocou com Slayer durante sua turnê européia.
Eles lançaram seu 8º álbum, Surtur Rising, em 29 de março de 2011. A Metal Blade Records lançou seu primeiro single, "War of the Gods", no dia 27 de janeiro de 2011 via YouTube. Para apoiar o álbum, a banda fez uma turnê mundial de 4 meses com Children Of Bodom e Ensiferum, entre outros.
Amon Amarth se apresentou no Wacken Open Air em 2012, Hellfest 2013, Download Festival 2013, Sweden Rock Festival e Mayhem Festival 2013.
Em 25 de junho de 2013, Amon Amarth lançou seu nono álbum de estúdio, "Deceiver of the Gods". A capa do álbum mostrou Ragnarök durante a última batalha entre os deuses Æsir e Loki, acompanhado pelo exército dos mortos.
Em 19 de março de 2015, Amon Amarth publicou no Facebook que seu baterista Fredrik Andersson havia deixado a banda após 17 anos de trabalho conjunto. A banda lançou seu 10º álbum Jomsviking em 25 de março de 2016. Tobias Gustafsson, foi usado como um novo baterista para este álbum. De 22 de março a 25 de março, eles fizeram shows em Londres, Paris, Tilburg e Berlim. Eles também tocarão com o Testament no Reino Unido em uma turnê a partir de outubro e novembro de 2016.