Originalmente, o segundo era conhecido como um "segundo minuto", ou seja, a divisão do segundo minuto (ou seja, pequeno) de uma hora. A primeira divisão era conhecida como "primeiro minuto" e é equivalente ao minuto que conhecemos hoje. O terceiro e o quarto minutos foram às vezes utilizados nos cálculos.
O fator 60 vem dos babilônios que usaram um sistema numérico sexagesimal (base-60). Entretanto, os babilônios não subdividiram suas unidades de tempo sexagesimalmente (exceto para o dia). A hora havia sido definida pelos antigos egípcios como 1/12 de dia ou 1/12 de noite, portanto ambos variavam com as estações do ano. Os astrônomos gregos, por exemplo Hipparchus e Ptolomeu, definiram a hora como 1/24 de um dia solar médio. A subdivisão sexagesimal desta hora solar média fez com que o segundo 1/86.400 de um dia solar médio fosse o segundo. []
Os períodos de tempo gregos, por exemplo, o mês sinódico médio, foram geralmente especificados com bastante precisão porque foram calculados a partir de eclipses cuidadosamente selecionados, separados por centenas de anos - meses sinódicos médios individuais e períodos de tempo similares não podem ser medidos. No entanto, com o desenvolvimento de relógios pendulares mantendo o tempo médio (ao contrário do tempo aparente exibido pelos solares), o segundo tornou-se mensurável. O pêndulo de segundos foi proposto como uma unidade de comprimento já em 1660 pela Royal Society of London. A duração de uma batida ou meio período (um balanço, não para frente e para trás) de um pêndulo de um metro de comprimento na superfície da Terra é de aproximadamente um segundo.
Em 1956, o segundo foi definido em termos do período de revolução da Terra ao redor do Sol para uma determinada época, porque nessa época já se havia reconhecido que a rotação da Terra em seu próprio eixo não era suficientemente uniforme como padrão de tempo. O movimento da Terra foi descrito nas Tabelas do Sol de Newcomb, que fornece uma fórmula para o movimento do Sol na época de 1900, baseada em observações astronômicas feitas entre 1750 e 1892. A segunda assim definida é
a fração 1/31.556.925,9747 do ano tropical para 1900 0 de janeiro às 12 horas de efeméride.
Esta definição foi ratificada pela Décima Primeira Conferência Geral de Pesos e Medidas em 1960. O ano tropical na definição não foi medido, mas calculado a partir de uma fórmula que descreve um ano tropical que diminuiu linearmente com o tempo, daí a curiosa referência a um ano tropical instantâneo específico. Como esta segunda foi a variável independente do tempo usada nas efemérides do Sol e da Lua durante a maior parte do século XX (as Tabelas do Sol de Newcomb foram usadas de 1900 a 1983, e as Tabelas da Lua de Brown foram usadas de 1920 a 1983), ela foi chamada de segunda efeméride.
Quando relógios atômicos foram feitos, eles se tornaram a base da definição do segundo, ao invés da revolução da Terra ao redor do Sol.
Após vários anos de trabalho, Louis Essen do Laboratório Físico Nacional (Teddington, Inglaterra) e William Markowitz do Observatório Naval dos Estados Unidos (USNO) determinaram a relação entre a freqüência hiperfina de transição do átomo de césio e a segunda efeméride. Usando um método de medição de visão comum baseado nos sinais recebidos da estação de rádio WWV, eles determinaram o movimento orbital da Lua sobre a Terra, do qual o movimento aparente do Sol poderia ser inferido, em termos de tempo medido por um relógio atômico. Como resultado, em 1967 a Décima Terceira Conferência Geral de Pesos e Medidas definiu o segundo do tempo atômico no Sistema Internacional de Unidades (SI) como
a duração de 9.192.631.770 períodos da radiação correspondente à transição entre os dois níveis hiperfinos do estado do solo do átomo de césio-133.
O estado do solo é definido em campo magnético zero. O segundo assim definido é equivalente ao segundo efeméride.
A definição da segunda foi posteriormente refinada na reunião de 1997 do BIPM para incluir a declaração
Esta definição se refere a um átomo de césio em repouso a uma temperatura de 0 K.
A definição revisada parece implicar que o relógio atômico ideal conteria um único átomo de césio em repouso, emitindo uma única freqüência. Na prática, porém, a definição significa que as realizações de alta precisão do segundo devem compensar os efeitos da temperatura ambiente (radiação de corpo negro) dentro da qual os relógios atômicos operam e extrapolar de acordo com o valor do segundo, conforme definido acima.
