No congresso da Sorbonne de 1894, uma grande lista de esportes foi sugerida para o programa em Atenas. Os primeiros anúncios oficiais sobre os eventos esportivos a serem realizados apresentavam esportes como futebol e críquete, mas estes planos nunca foram finalizados, e estes esportes não fizeram a lista final dos Jogos. Remo e iatismo foram programados, mas tiveram que ser cancelados devido ao mau tempo no dia planejado para a competição.
Atletismo
Os eventos de atletismo tinham o campo mais internacional de todos os esportes. O grande destaque foi a maratona, realizada pela primeira vez em competições internacionais. Spyridon Louis foi o único campeão grego de atletismo e um herói nacional. Embora a Grécia tivesse sido favorita para ganhar o disco ou o shotput, os melhores atletas gregos terminaram logo atrás do americano Robert Garrett em ambos os eventos.
Não foram estabelecidos recordes mundiais, pois poucos concorrentes internacionais de primeira linha haviam eleito para competir. Além disso, as curvas da pista eram muito apertadas, dificultando os tempos rápidos nos eventos de corrida. Apesar disso, Thomas Burke, dos Estados Unidos, venceu a corrida de 100 metros em 12,0 segundos e a corrida de 400 metros em 54,2 segundos. foi o único que usou a "agachada" (colocar o joelho no chão), confundindo o júri. Eventualmente, ele foi autorizado a largar de sua "posição desconfortável".
Ciclismo
As regras da Associação Internacional de Ciclismo foram utilizadas para as competições de ciclismo. As provas de ciclismo de pista foram realizadas no Velódromo Neo Phaliron recentemente construído. Apenas um evento rodoviário foi realizado, uma corrida de Atenas a Maratona e de volta (87 quilômetros).
Nos eventos de pista, o melhor ciclista foi o francês Paul Masson, que venceu o time trial de uma volta, o evento de sprint e os 10.000 metros. Na prova de 100 quilômetros, Masson entrou como marcapasso para seu compatriota Léon Flameng. Flameng venceu o evento, após uma queda, e após parar para esperar que seu oponente grego Georgios Kolettis consertasse um problema mecânico. O esgrimista austríaco Adolf Schmal venceu a corrida de 12 horas, que foi completada por apenas dois ciclistas, enquanto a corrida de estrada foi vencida por Aristidis Konstantinidis.
Esgrima
Os eventos de esgrima foram realizados no Zappeion, que, construído com dinheiro que Evangelis Zappas havia dado para reviver os antigos Jogos Olímpicos, não foi usado antes. Ao contrário de outros esportes (nos quais apenas amadores podiam participar das Olimpíadas), os profissionais podiam competir em esgrima, embora em um evento separado. Estes profissionais eram considerados cavalheiros atletas, assim como os amadores.
Quatro eventos foram programados, mas o evento épée foi cancelado por motivos desconhecidos. O evento de alumínio foi ganho por um francês, Eugène-Henri Gravelotte, que venceu seu compatriota, Henri Callot, na final. Os outros dois eventos, o sabre e o florete master, foram vencidos por esgrimistas gregos. Leonidas Pyrgos, que venceu o último evento, tornou-se o primeiro campeão olímpico grego da era moderna.
Ginástica
A ginástica estava no campo de jogo do Estádio Panathinaiko. A Alemanha enviou uma equipe de 11 homens, que venceu cinco dos oito eventos, incluindo ambos os eventos da equipe. No evento da equipe na barra horizontal, a equipe alemã ficou sem oposição. Três alemães adicionaram títulos individuais: Hermann Weingärtner ganhou a barra horizontal, Alfred Flatow ganhou as barras paralelas; e Carl Schuhmann, que também competiu com sucesso na luta-livre, ganhou o cofre. Louis Zutter, um ginasta suíço, venceu o cavalo pommel, enquanto os gregos Ioannis Mitropoulos e Nikolaos Andriakopoulos foram vitoriosos nos anéis e nas provas de escalada por corda, respectivamente.
Tiroteio
Realizada ao alcance em Kallithea, a competição de tiro foi de cinco eventos - dois usando uma espingarda e três com a pistola. O primeiro evento, o fuzil militar, foi vencido por Pantelis Karasevdas, o único competidor a acertar o alvo com todos os seus tiros. O segundo evento, para as pistolas militares, foi dominado por dois irmãos americanos: John e Sumner Paine se tornaram os primeiros irmãos a terminar em primeiro e segundo lugar no mesmo evento. Para não embaraçar seus anfitriões, os irmãos decidiram que apenas um deles competiria no próximo evento de pistola, a pistola livre. Sumner Paine venceu esse evento.
Os irmãos Paine não competiram no evento de pistola de 25 metros, pois os juízes do evento determinaram que suas armas não eram do calibre exigido. Na ausência deles, Ioannis Phrangoudis venceu. O evento final, o rifle gratuito, começou no mesmo dia. Entretanto, o evento não foi concluído devido à escuridão e foi finalizado na manhã seguinte, quando Georgios Orphanidis foi coroado campeão.
Natação
A competição de natação foi realizada em mar aberto. Cerca de 20.000 espectadores se alinhavam na Baía de Zea ao largo da costa do Pireu para assistir aos eventos. A água na baía estava fria e os competidores sofreram durante suas corridas. Houve três eventos abertos (100 metros livres masculinos, 500 metros livres masculinos e 1200 metros livres masculinos), além de um evento especial aberto somente aos marinheiros gregos, todos eles realizados no mesmo dia (11 de abril).
Para Alfréd Hajós da Hungria, estar no mesmo dia significava que ele só poderia competir em dois dos eventos. Ele venceu os dois eventos em que nadou, os 100 e 1200 metros livres. Hajós tornou-se mais tarde um dos dois únicos atletas olímpicos a ganhar uma medalha tanto nas competições atléticas quanto artísticas, quando ganhou uma medalha de prata pela arquitetura em 1924. O estilo livre de 500 metros foi conquistado pelo nadador austríaco Paul Neumann, que derrotou seus adversários por mais de um minuto e meio.
Tênis
Embora o tênis já fosse um esporte importante no final do século XIX, nenhum dos melhores jogadores apareceu para o torneio em Atenas. A competição era nas quadras do Athens Lawn Tennis Club, e no campo do velódromo utilizado para as provas de ciclismo. John Pius Boland, que venceu o evento, foi inscrito na competição por um colega de escola dele em Oxford. No primeiro round, Boland derrotou Friedrich Traun, um promissor tenista de Hamburgo, que havia sido eliminado na competição de sprint de 100 metros. Boland e Traun decidiram se juntar para o evento de duplas, no qual chegaram à final e derrotaram seus adversários gregos e egípcios após perderem o primeiro set.
Levantamento de peso
O esporte do levantamento de peso ainda era jovem em 1896, e as regras diferiam daquelas em uso hoje em dia. As competições eram realizadas ao ar livre, no campo interno do estádio principal, e não havia limites de peso. O primeiro evento foi realizado em um estilo agora conhecido como o "limpo e idiota". Dois concorrentes se destacaram: O escocês Launceston Elliot e Viggo Jensen, da Dinamarca. Ambos levantaram o mesmo peso; mas o júri, com o Príncipe George como presidente, decidiu que Jensen o tinha feito em um estilo melhor. A delegação britânica, não familiarizada com esta regra de desempate, apresentou um protesto. Os levantadores foram autorizados a fazer mais tentativas, mas nenhum deles melhorou, e Jensen foi declarado o campeão.
Elliot ganhou no evento de levantamento de uma mão, que foi realizado imediatamente após o evento de duas mãos. Jensen havia se machucado levemente durante sua última tentativa com duas mãos, e não foi páreo para Elliot, que venceu a competição facilmente. O público grego ficou encantado com o vencedor escocês, que eles consideraram muito atraente. Um incidente curioso ocorreu durante o evento de levantamento de peso: um servo foi ordenado a retirar os pesos, o que parecia ser uma tarefa difícil para ele. O príncipe George veio em seu auxílio; ele pegou o peso e o atirou com facilidade, para deleite da multidão.
Wrestling
Não existiam classes de peso para a competição de luta livre, realizada no Estádio Panathinaiko, o que significava que haveria apenas um vencedor entre os concorrentes de todos os tamanhos. As regras utilizadas eram semelhantes à luta greco-romana moderna, embora não houvesse limite de tempo, e nem todos os porões de perna eram proibidos (em contraste com as regras atuais).
Além dos dois competidores gregos, todos os competidores já haviam participado de outros esportes. O campeão de levantamento de peso Launceston Elliot enfrentou o campeão de ginástica Carl Schuhmann. Este último venceu e avançou para a final, onde conheceu Georgios Tsitas, que anteriormente havia derrotado Stephanos Christopoulos. A escuridão forçou a partida final a ser suspensa após 40 minutos; ela continuou no dia seguinte, quando Schuhmann precisou de apenas um quarto de hora para terminar o jogo.