El 25 de julio de 1902, un grupo de jóvenes apasionados por el fútbol se reunió en la casa de la familia Rodi para fundar un club que inicialmente llevaría el nombre de Paraguay. Sin embargo, inspirados por los Juegos Olímpicos de la antigua Grecia, decidieron renombrarlo como Olimpia.
El neerlandés William Paats, considerado el padre del fútbol paraguayo, fue fundamental en esta decisión, trayendo consigo la pasión por el deporte.
Los primeros éxitos de Olimpia no tardaron en llegar, con campeonatos de liga en 1912 y 1914. La verdadera época dorada del club comenzó en 1925 bajo la dirección de Aurelio González, logrando su primer tricampeonato entre 1927 y 1929, y un título invicto en 1931.
Aunque la Guerra del Chaco suspendió las actividades futbolísticas en la década de 1930, Olimpia resurgió bajo la gestión del presidente Manuel Ferreira Sosa, alcanzando un pentacampeonato entre 1956 y 1960 y su primera final de la Copa Libertadores en 1960.
La presidencia de Osvaldo Domínguez Dibb marcó otra era de gloria para el club, logrando un hexacampeonato entre 1978 y 1983, y un tetracampeonato entre 1997 y 2000. Bajo su liderazgo, Olimpia ganó tres Copas Libertadores, una Intercontinental y varias otras copas internacionales, consolidándose como uno de los clubes más exitosos de América.
La gestión de Óscar Carísimo Netto también fue destacada, obteniendo la Supercopa Sudamericana en 1990 y alcanzando la final de la Copa Libertadores en 2013.
Con 46 títulos de Primera División y 8 copas internacionales, Olimpia es indiscutiblemente el club más ganador del país, habiendo logrado hazañas como la Cuádruple Corona en 1979 y el primer título de la Copa Libertadores en su centenario.