Promoucaes foram as primeiras pessoas que povoaram Pichilemu. Eram caçadores coletores e pescadores.
Em 1887, o Presidente José Manuel Balmaceda decretou Pichilemu como uma doca menor.
José Toribio Medina fez suas primeiras investigações arqueológicas em Pichilemu, e publicou em 1908 Los Restos Indígenas de Pichilemu. Ele disse ali que Pedro de Valdivia deu terras no que hoje é o centro do Chile a Juan Gómez de Almagro em 24 de fevereiro de 1544. Pichilemu estava entre as áreas do Palloquierbico, Topocalma, e Gulaquien.
O nome Pichilemu vem das palavras Mapudungún pichi (pouco) e lemu (floresta).
Alguns dos primeiros proprietários de terras de Pichilemu foram a família Ortúzar. Daniel Ortúzar é conhecido como um dos fundadores da aldeia original de Pichilemu. A família de Ortúzar Cuevas, da Fazenda San Antonio de Petrel, fez uma doca marítima de meados do século, que foi como porto de pesca por alguns anos. Eles também construíram casas ao longo do cais no que hoje é a Avenida Ortúzar. Mais recentemente, outros grandes proprietários de terra são Pedro Pavez Polanco e a Fazenda de San Antonio de Petrel. Em 1891, durante a Guerra Civil chilena, Daniel Ortúzar e o padre de Alcones foram feitos prisioneiros de Pichilemu através do cais. Durante a guerra, o cais foi incendiado. Após a guerra civil, Pichilemu recebeu seu nome e status formal. Presidente Jorge Montt e seu Ministro, Manuel José Irarrázabal, a cidade foi oficialmente estabelecida em 22 de dezembro de 1891.
Pichilemu tornou-se a capital histórica da província chamada Cardenal Caro, que é nomeada para o primeiro Cardeal da Igreja Católica chilena. Seu pai foi o primeiro prefeito da cidade.
Agustín Ross Edwards foi um escritor chileno, deputado, ministro e político. Ross era muito rico e, com base em sua formação européia, comprou um terreno de 300 hectares e o chamou de "La Posada" (Inglês: The Inn), ou Fundo Petren, em 1885. Ross projetou um lugar urbano de alto valor ambiental e paisagístico, transformando "La Posada" em um hotel (Great Hotel Pichilemu, mais tarde Hotel Ross, ou Hotel Ross), e construindo um cassino, aterros, paredes de pedra, uma varanda de frente para a praia. Além disso, ele construiu um parque e uma floresta de mais de 10 hectares. Agustín Ross transformou Pichilemu em uma cidade resort de verão para o povo de Santiago. Alguns de seus edifícios foram nomeados Monumentos Nacionais.