Olia Ailesi tarafından kurulmuştır. 1899'dan beri icraatte olan ve çok dallı bir kulüp olan Lyon Olympique Universitaire içinde çıkan, rugby ile futbol kısımları arasındaki tartışma sonucu futbol kısmı kulüpten ayrılır ve yeni adı Olympique Lyonnais ile 3 Ağustos 1950'de yeni bir sayfa açarlar. Resmi kayıtlarda 1950 olmasına karşın, Olympique Lyon taraftarları kulüplerinin kuruluş tarihlerini 1899 olarak kabul ederler.
1910'da Fransa Kupasını kazanırlar. 1920'de yeni yapılan Stade de Gerland'a geçerler. Bu stat Tony Garnier tarafından dizayn edilmiştir.
1945/46 sezonunda, başarıları ile birinci lige çıkarlar, fakat 1946'da ikinci lig yolu görünür.
İkinci ligde geçen birkaç yılın ardından, Jean-Michel Aulas 1987'de kulübün kontrolünü alır ve 15 yıl içinde Avrupa Kupalarına katılma hayalleri ile büyük yatırımlara girişir. Teknik direktörleri Robert Nouzaret ile Raymond Domenech'in yardımlarıyla da 1989'da çıkışa geçerler.
1995'te kulüp üst sıralarda yer almıştır. Dokunulmaz FC Nantes'in ardından 2. olmuşlardır. Bu başarıda alt yapıdan yetişen yetenekli oyuncuların, özellikle Florian Maurice'in katkıları büyüktür. Ertesi yıl, kulüp Avrupa Kupalarına İtalyan takımı Lazio'yu eleyerek katılmıştır.
1997'de Intertoto Kupası sayesinde Avrupa'ya tekrar açılmışlardır. Birinci ligde 1997/98 sezonunu 6., 1998/99 ve 1999/00 sezonunu 3. ve 2000/01 sezonunu 2. bitirmişlerdir.