W 1899 roku w Marsylii powstał klub piłkarski Olympique Marsylia. W XX w. francuską piłka dominowały kluby z Paryża. OM stawiła jako pierwsza czoła tej hegemonii. W 1924 roku Marsylczycy wykorzystali bałagan i nieład w klubach z Paryża wygrywając Puchar Francji. Od tego momentu zaczęła się tworzyć historia wielu trofeów w Marsylii. W 1926 i 1927 roku Puchar Francji znów padł łupem Olympique Marsylii.

Kadra na rok 1929 budowana na podstawie umiejętności zawodników tj. Alcazar, Allé, Crut, Devaquez, Gallay i Jean Boyer była nie do powstrzymania i zdobyła upragniony pierwszy tytuł mistrza Francji. W 1932 roku klub wkraczył w erę nowożytną, erę profesjonalizmu. Puchar Francji wrócił do Marsylii w roku 1935 po wygranym meczu, 3:0 nad ekipą Rennes. 1937 rok to zwycięstwo w Ligue 1, natomiast rok później po raz piąty wywalczony został Puchar Francji. Dzięki zwycięstwu w Pucharze Francji w 1947 roku nad ekipą Bordeaux, 4:0 Olympique Marsylia potwierdziła swoją dominację we Francji w tych latach.

Marsylczycy po raz kolejny po tytuł mistrza Francji sięgnęli w roku 1948. Niestety po sezonie 1958 z klubu odszedł jego najlepszy zawodnik Gunnar Andersson który w białym trykocie zdobył 169 bramki co do tej pory jest klubowym rekordem. Niestety odejście Gunnara zapoczątkowało „biedne” lata OM. W 1959 roku zespół z Marsylii znalazł się na dnie Ligue 1 i spadł do Ligue 2. Kibice odwrócili się od klubu. 23 kwietnia 1965 roku klub zanotował najniższą frekwencję w historii (434 widzów) podczas meczu z Forbach.

Przybycie do klubu Marcela Leclerca okazało się punktem zwrotnym. Dzięki niemu w klubowej kasie przybyła znaczna ilość gotówki. Wprowadził on w szeregi Olympique Marsylii determinacje w dążeniu do sukcesu. Pozyskał zawodników tj. Josip Skoblar i Roger Magnusson, oraz zatrudnił trenera Mario Zatelliego, dzięki którym klub wyciągnięto z nędzy. Wywalczyli oni w 1969 roku kolejny Puchar Francji pokonując graczy Bordeaux. Mistrzostwo kraju w 1971 roku i… powtórka rok później. Josip Skoblar został wówczas nagrodzony Złotym Butem (44 zdobyte bramki). OM przeżywał chwile chwały, oraz był jedynym klubem mogącym nawiązać walkę z AS Saint-Etienne. Marsylczycy, słynący z tego do dziś, uruchomili unowocześnione szkolenie młodzieży, co znacznie poprawiło znaczenie klubu.

OM po pozyskaniu Bernarda Tapie rozpoczęli kolejny znakomity okres, bogaty w puchary. W okresie 1989-1993 Olympique dominował już nie tylko we Francji, lecz ze swoimi wielkimi gwiazdami Papinem, Waddlem, Pele, Francescolim czy Stojkovicem szturmem wkraczał na inne europejskie boiska. Dominację Marsylczycy potwierdzili zdobywając 5 tytułów mistrza kraju pod rząd. 26 maja 1993 roku klub wywalczył najcenniejsze trofeum w historii klubu, Puchar Ligi Mistrzów, pokonując 1:0, włoskiego giganta, AC Milan. Jest to jedyny Puchar Europy zdobyty przez francuski zespół. Jednak radość po zawojowaniu Europy nie trwała długo, gdyż za udział w ustawianiu meczy klub został zdegradowany do Ligue 2, oraz zabrano im tytuł mistrza kraju z sezonu 1992/93. Jednak już rok później powrócili do francuskiej, piłkarskiej elity. W 1999 roku Marsylczycy uplasowali się zaraz za Bordeaux w lidze, zostając vice mistrzem Francji.

W latach 1999 i 2004 zawodnicy OM dotarli do finału Pucharu UEFA polegając kolejno z Parmą i Valencią. W 2006 i 2007 roku zajmowali drugie miejsca w Pucharze Francji. Dopiero w 2010 roku Olympique Marsylii udało odnieść się kolejne sukcesy wygrywając w Pucharze Ligii, oraz zdobywając tytuł mistrza Francji. Był to pierwszy tytuł od pamiętnego roku 1993. W lipcu 2010 roku zawodnicy pod wodzą Didiera Deschampsa sięgnęli po Superpuchar Francji. Dzięki temu pierwszy raz w historii zdobyli potrójną koronę (trzy tytuły w jeden rok). Rok 2011 niestety nie przyniósł tak wielu powodów do radości co poprzedni. Zawodnicy co prawda zdołali wywalczyć drugi z rzędu puchar Ligi, jednak najważniejsze trofeum, Ligue 1, Lille zabrało im z przed nosa. Ostatecznie Olympique Marsylia sezon 2010/2011 zakończyło na 2. miejscu. Po zakończeniu sezonu, ku uciesze kibiców i zawodników, kontrakt z klubem przedłużył Didier Deschamps. Z klubu odeszli dwaj wartościowi obrończy; Taye Taiwo, oraz Gabriel Heinze. Pierwszemu z nich skończył się kontrakt i zdecydował się na grę w AC Milanie, natomiast drugi poprosił o rozwiązanie umowy, z powodu zmiany priorytetów w klubie. Zaraz po tym wydarzeniu w klubie pojawił się nowy prezes, Vincent Labrune. 9 czerwca rozpoczęto budowę odnowionego Stade Velodrome, które ma być jednym ze stadionów na Mistrzostwa Europy w 2016 roku.

Fatalny sezon 2011/12, w którym zawodnicy Olympique Marsylii zajęli dopiero 10. miejsce ze stratą blisko 40 punktów do Mistrza Francji, uratował jedynie 3 z rzędu Puchar Francji. Przed sezonem 2012/2013 Didier'a Deschamps'a zastąpił Elie Baup. Wśród kibiców panowało wiele niepewności co będzie dalej z klubem. Brak gry w Lidze Mistrzów (cudem uratowana gra w Lidze Europejskiej), oraz sprzedaż takich zawodników jak Cesar Azpilicueta, Stephane Mbia, czy Loic Remy nie poprawiały nastrojów fanów. Jednak, ku uciesze zwolenników OM, piłkarze sezon zaczęli fenomenalnie od serii 6 zwycięstw. Niestety potem nastały ciężkie chwile i porażki przeplatały się ze zwycięstwami. Ostatecznie sezon piłkarze z Marsylii zakończyli na pozycji Wicemistrza Francji, kwalifikując się tym samym do fazy grupowej Ligi Mistrzów. Europejskie puchary w tym sezonie to kompletny niewypał. W grupie z Fenerbahce, Limassolem i Borussią M'Gladbach podopieczni Elie Baupa zajęli 3. miejsce i szybko pożegnali się z rozgrywkami.