O primeiro trabalho de Hopetoun foi escolher um primeiro-ministro para formar um governo, que começaria em 1º de janeiro de 1901. As primeiras eleições não seriam realizadas até março, portanto ele não poderia escolher o líder do maior partido político da Câmara dos Deputados. Em vez disso, ele pediu a Sir William Lyne, o primeiro-ministro do maior estado, Nova Gales do Sul, para ser primeiro-ministro.
Embora esta fosse uma escolha razoável, Lyne tinha se oposto à federação e era impopular com os principais políticos federalistas. Alfred Deakin e outros políticos importantes disseram a Hopetoun que não iriam trabalhar com Lyne. Hopetoun perguntou então a Edmund Barton, o líder do movimento federal e o homem que todos achavam que deveria ser o primeiro-ministro. Isto ficou conhecido como o "Hopetoun Blunder".
Logo surgiram mais problemas. Hopetoun trouxe seu próprio Secretário Oficial, o Capitão Edward William Wallington. Os australianos não queriam um inglês encarregado dos negócios oficiais. Eles também não gostaram da pompa e cerimônia que Hopetoun usou em sua posição, e do dinheiro que isso custou. Ele agiu como se governasse a Austrália com o Primeiro Ministro. Isto não era o que os redatores da Constituição queriam.
Hopetoun tornou-se amigo do anarquista de Melbourne e pioneiro sindical, John 'Chummy' Fleming. Em maio de 1901, Fleming protestou contra o desemprego em Melbourne, correndo para a Ponte do Príncipe para parar a carruagem do governador-geral. Hopetoun ouviu Fleming falar sobre os problemas dos desempregados. De acordo com alguns relatórios, Hopetoun fez com que o governo acelerasse os projetos de trabalho.
Finalmente, houve um problema com o quanto o governador-geral deveria ser pago para ter uma casa tanto em Sydney, a maior cidade, quanto em Melbourne, a casa do governo australiano. O Commonwealth e os parlamentos vitorianos não pagariam mais dinheiro ao Hopetoun. Hopetoun renunciou em maio de 1902. Ele e sua família deixaram a Austrália (de Brisbane) em 17 de julho de 1902. Ele sabia que havia falhado em um papel histórico. Ele foi criado 1º Marquês de Linlithgow em 27 de outubro de 1902, enquanto ele ainda era o Governador Geral. Seu mandato terminou oficialmente em 9 de janeiro de 1903. Ele foi nomeado Secretário para a Escócia em 1905.
Ele morreu subitamente em 29 de fevereiro de 1908, em Pau, Pyrénées-Atlantiques, França.