Em 2001, por volta dos 5 anos de idade, Leroy juntou-se à equipe de jovens da "SG Wattenscheid 09". Ele jogou lá até algum tempo em 2005, antes de ingressar na academia de jovens 'Schalke' ('Nachwuchsleistungszentrum') naquele ano. Posteriormente, em 2008, ele começou a jogar com o Bayer Leverkusen e retornou ao 'Schalke 04' em 2011. Ele jogou pela equipe juvenil até o início de 2014. Ele começou sua carreira no clube principal com o 'Schalke 04' em 21 de março de 2014, assinando um contrato profissional de 3 anos com o clube. O contrato foi prorrogado até 30 de junho de 2017. Seu jogo de estreia na 'Bundesliga' aconteceu em 20 de abril de 2014. Ele marcou seu primeiro gol da temporada em 13 de dezembro de 2014, contra o '1. FC Köln', e seu primeiro gol no jogo da 'Liga dos Campeões da UEFA' veio contra o 'Real Madrid', em 11 de março de 2015. Ele então assinou um contrato de 5 anos com o clube 'Premier League', 'Manchester City', em 2 de agosto de 2016. Segundo consta, a taxa de transferência foi de 37 milhões de libras esterlinas, com acréscimos baseados no desempenho potencialmente fazendo com que a taxa girasse em torno de 46,5 milhões de libras esterlinas.
Manchester City
Ele fez sua estréia com o clube em 10 de setembro daquele ano, contra o "Manchester United", no clássico "Manchester". No dia 18 de dezembro do mesmo ano, ele marcou seu primeiro gol pelo clube durante o jogo da "Premier League" contra o "Arsenal". Ele não jogou na 'Copa das Confederações da FIFA 2017', pois teve que se submeter a uma cirurgia corretiva para superar seu problema crônico de congestão nasal. Leroy continuou a ter um bom desempenho na temporada 2017-2018 e recebeu o prêmio de 'Jogador do Mês da Premier League' em outubro de 2017. Ele fez parte do plantel do clube durante a 'FA Cup' 2017-2018. A final da 'EFL Cup' de 2018, que foi realizada em 25 de fevereiro de 2018, no 'Wembley Stadium', viu o 'Manchester City' conquistar o troféu ao marcar 3-0 contra o 'Arsenal'. Leroy jogou 77 minutos na partida antes de ser substituído. O título de 'Jogador Jovem do Ano da PFA' foi para ele em 2017-2018, por sua contribuição na conquista do título da 'Premier League' em 2017-2018 pelo 'Manchester City'. Ele marcou o terceiro título de 'Premier League' do clube. Seu primeiro gol no clássico 'Manchester' aconteceu em 24 de abril de 2019, numa vitória por 2x0 do 'Manchester City' contra o 'Manchester United'. Ele sustentou uma partida rasgada do ACL durante a partida 'FA Community Shield' de 2019 entre o 'Manchester City' e o 'Liverpool', em 4 de agosto de 2019. Assim, ele jogou por 13 minutos antes de ser substituído. O 'Manchester City' conseguiu defender o troféu, ganhando por 5-4 nos pênaltis.
Bayern Munchen
Leroy Sane deixou Man City e ingressou no Bayern de Munique em 15 de julho de 2020 por 49 milhões de euros.