A cidade foi fundada em 1656. A região foi habitada pela primeira vez há cerca de 10.000 anos (Epipaleolítico). Um crânio e outros vestígios foram encontrados em cavernas próximas.
Em meados do século XIV, a região foi colonizada a partir do sul do Val-de-Ruz. La Chaux-de-Fonds é mencionada pela primeira vez em 1350 como La Chaz de Fonz. Em 1378, foi mencionado como Chault de Font.
A região estava sob a autoridade dos senhores de Valangin. Nos séculos XV e XVI, uma segunda onda de colonização veio do chamado Clos de la Franchise (os vales de Le Locle e La Sagne). A agricultura era a principal atividade, mas o vilarejo permaneceu pequeno. Em 1531, havia apenas cerca de 35 pessoas vivendo lá. A primeira igreja foi construída em 1528. Em 1530, La Chaux-de-Fonds, como o resto das terras de Valangin, converteu-se à nova fé reformada. O Senhor de Valanginian, René de Challant, fixou os limites da paróquia em 1550. A igreja e a paróquia proporcionaram uma estrutura política e uma pequena comunidade de cidadãos valanginianos, agricultores livres e camponeses que cresceram ao redor da igreja. Em 1615, havia 355 pessoas vivendo na aldeia. Em 1616, a jurisdição baixa e média sobre La Chaux-de-Fonds mudou-se para Le Locle e La Sagne, enquanto a alta corte permaneceu em Valanginian. A agricultura, complementada por moinhos nas margens do Doubs, continuou a dominar. Entretanto, no final do século 16, a cidade se tornou um importante cruzamento entre Neuchâtel, Franche-Comté e o Bispado da Basiléia.
A comunidade cresceu durante a Guerra dos Trinta Anos, principalmente por causa de sua posição estratégica para o comércio. A atividade econômica acelerou-se no século XVIII com o desenvolvimento da indústria de rendas e relojoaria da cidade. Pierre Jacquet-Droz, mais conhecido por seus autômatos, foi um relojoeiro particularmente proeminente desta época.
Em 1794, a cidade foi devastada pelo fogo. Charles-Henri Junod criou o novo plano da cidade em 1835, e a cidade é agora conhecida por seu plano "moderno", em forma de grade, em comparação com a maioria das ruas serpenteantes das cidades européias. A avenida central é chamada Avenue Léopold Robert.