O termo "físico-química" foi usado pela primeira vez por Mikhail Lomonosov em 1752. Ele apresentou um curso de palestra com o título "Um Curso de Físico-Química Verdadeira" (russo: "Курс истинной физической химии") aos estudantes da Universidade de Petersburg.
A química física moderna foi desenvolvida nas décadas de 1860 a 1880 com trabalhos sobre termodinâmica química, eletrólitos em soluções, cinética química e outros assuntos. Em 1876, Josiah Willard Gibbs escreveu um artigo chamado, On the Equilibrium of Heterogeneous Substances (No Equilíbrio de Substâncias Heterogêneas). Este artigo introduziu muitas das principais partes da química física, tais como energia de Gibbs, potenciais químicos, regra da fase de Gibbs. Outras descobertas importantes incluem o trabalho de Heike Kamerlingh Onnes sobre entalpia e processos macromoleculares.
A primeira revista científica sobre físico-química foi a revista alemã Zeitschrift für Physikalische Chemie. Ela foi fundada em 1887 por Wilhelm Ostwald e Jacobus Henricus van 't Hoff. Os dois químicos e Svante August Arrhenius foram os principais homens da físico-química no final do século XIX e início do século XX. Todos os três foram agraciados com o Prêmio Nobel de Química.
Descobertas importantes foram feitas no século XX. Estas incluem a aplicação da mecânica estatística a sistemas químicos e o trabalho de Irving Langmuir em colóides e química de superfície. Na década de 1930, Linus Pauling e outros aplicaram a mecânica quântica para desenvolver a química quântica. As teorias químicas têm crescido com novas descobertas experimentais. Novas formas de espectroscopia começaram no século 20, incluindo: espectroscopia infravermelha, espectroscopia de microondas, espectroscopia EPR e espectroscopia NMR.
A química física também melhorou com descobertas na química nuclear, especialmente na separação de isótopos. Isto aconteceu por volta da época anterior e durante a Segunda Guerra Mundial. Os químicos descobriram fatos importantes na astroquímica.