O jogo é ambientado no mesmo mundo fictício que o resto da série Halo. Grande parte do jogo acontece no futuro ano 2552, mais de 500 anos a partir de agora. No enredo, os humanos se desenvolveram mais rápido que as viagens leves, e agora vivem em muitos planetas e luas do Sistema Solar. Na primeira tentativa da humanidade de construir um assentamento em um planeta ao redor de outra estrela, eles encontraram o Convênio alienígena. O Convênio declarou guerra religiosa contra a humanidade. No início do Halo 2, os humanos estão perdendo a guerra e o Pacto acaba de descobrir a Terra.
O Halo do título do jogo é o nome de uma série de planetas "construídos" por uma raça misteriosa chamada os precursores muito tempo antes do jogo. Os Halo's são a última defesa contra outra raça alienígena conhecida como o Dilúvio. O Dilúvio quer usar todos os seres vivos da galáxia como alimento. Os Halo's são na verdade super armas gigantes, que quando ativadas matam toda a vida na galáxia. Esta é a única maneira de deter o Dilúvio, de matá-los à fome, matando toda a sua comida. Os Covenant não estão cientes disso e estão tentando atirar Halos como parte de uma falsa profecia religiosa. No primeiro jogo Halo, Halo: Combat Evolved, os humanos e o Chefe Mestre conseguem impedir o Covenant de disparar um dos Halos. Eles também destroem um deles no processo. Pouco antes de Halo 2 começar o Pacto descobre outro Halo que só pode ser conseguido através de um portal encontrado perto da Terra.
Lote
O jogo começa com a tortura de um estrangeiro, o líder das Elites. Ele está sendo torturado pelo pacto porque não conseguiu impedir o Mestre Chefe de destruir o primeiro Halo no jogo original. O comandante de elite é marcado pelo líder dos Brutes, outra parte do Convênio. O jogador então assume o controle do Mestre Chefe, a bordo de uma nave orbitando a Terra quando a enorme frota do Pacto chega. O Pacto veio para tomar o portal que lhes permitirá chegar ao novo Halo para que possam dispará-lo. O Covenant embarca na nave que o jogador está a bordo, e tenta plantar bombas para desativá-la e as outras naves da frota humana. O jogador deve lutar através das forças do Pacto para desabilitar as bombas. Uma vez que isto esteja completo, o navio humano se despede, seguindo o navio bandeira do Convênio que acabou de passar. Enquanto isso, no cutscene vemos o ex-comandante de elite sendo transformado em um guerreiro religioso conhecido como o Árbitro para compensar seu fracasso em deter o Mestre Chefe no Halo original.
Em outra cutscene, um navio humano com Master Chief, Johnson e Cortana a bordo segue o navio do convênio através do portal para o novo Halo. O jogador deve agora assumir o controle do Chefe enquanto ele luta para impedir que o Cortana dispare o anel. Eventualmente, o jogador mata o Profeta do Arrependimento, um líder do Pacto, e impede que o Halo seja demitido. Infelizmente, antes que o jogador possa recuperar o Índice, o controle para disparar o Halo, eles são capturados pelo líder do Dilúvio, conhecido como o Gravemind. Em uma cutscene vemos o novo Arbiter enviado ao Halo para recuperar o Índice antes que o Chefe possa destruí-lo. Mas quando ele chega, ele e seus seguidores são traídos e seus antigos aliados começam a atacar. Aqui o jogador deve controlar Arbiter e seus seguidores enquanto eles tentam escapar da traição e da emboscada. O árbitro também é eventualmente capturado pelo Gravemind e se encontra com o Mestre Chefe. Os dois se libertam do Gravemind, cujos seguidores do Dilúvio agora assumiram um enorme navio do Pacto chamado High Charity. Arbítero e Chefe, agora novamente controlados pelo jogador, correm para o controle Halo para impedir que o Covenant dispare o anel uma última vez. Eles são bem sucedidos em deter o Covenant, mas o Profeta da Verdade, o último de seus líderes, escapa ileso em uma nave espacial. O chefe AI companheiro Cortana fica para trás no Halo, prometendo destruí-lo se algum Covenant alguma vez voltar. O Chefe e o Árbitro se escondem em um navio em fuga do Pacto e o Árbitro e seus seguidores retornam à Alta Caridade, numa tentativa de salvá-lo do Dilúvio.