Embora não haja muitas evidências arqueológicas, as pessoas viviam nas áreas ao longo da Baía de Hilo, dos rios Wailuku e Wailoa antes que o mundo ocidental fizesse contato. Eles eram conhecidos como os Hilo. Eles dominaram os altos cumes das montanhas até meados do século XIX. [] Hilo significa alto topo de montanha na língua original dos povos nativos que viviam no topo das montanhas. O rei Kamehameha, o primeiro rei do Havaí, conquistou todas as ilhas e depois deslocou o assentamento da montanha Hilo para a costa após a chegada de forasteiros.
Originalmente, o nome Hilo se aplicava a todo o distrito de Hilo, agora dividido em Distrito Hilo Sul e Distrito Hilo Norte. Quando William Ellis visitou em 1823, o assentamento principal no distrito de Hilo era Waiākea na Baía de Hilo. Os missionários chegaram ao distrito no início a meados do século XIX, fundando várias igrejas, notadamente a Igreja Haili, na área da moderna Hilo.
Hilo se expandiu à medida que as plantações de açúcar nos arredores criaram novos empregos e atraíram muitos trabalhadores da Ásia, tornando a cidade um centro comercial.
Um quebra-mar através da Baía de Hilo foi iniciado nos anos 1900 e concluído em 1929. Em 1º de abril de 1946, um terremoto de 7,8 graus de magnitude perto das Ilhas Aleutas criou um tsunami de 14 metros de altura que atingiu Hilo 4,9 horas depois, matando 160 pessoas. Em resposta a um sistema de alerta precoce, o Pacific Tsunami Warning Center, foi estabelecido em 1949 para rastrear estas ondas assassinas e fornecer alerta. Este tsunami também significou o fim da Havaí Consolidated Railway, e em vez disso a Hawaii Belt Road foi construída ao norte de Hilo usando parte do leito ferroviário.
Em 23 de maio de 1960, outro tsunami, causado por um terremoto de magnitude9,5 na costa do Chile no dia anterior, ceifou 61 vidas alegadamente devido à falta de atenção das pessoas às sirenes de advertência. Áreas baixas da baía da cidade na península Waiākea e ao longo da baía de Hilo, anteriormente povoada, foram rededicadas como parques e memoriais.