В 1936 році на маріупольському заводі ім. Ілліча була створена футбольна команда, яка 18 липня 1936 року провела свій перший офіційний матч у 1/64 фіналі Кубка СРСР (програла 0:5 криворізькому «Динамо»). У 1938 році клуб отримав назву «Сталь».
У розіграші Кубка УРСР 1944 року завдяки неявці іншої команди, «ВЧ» (Ворошиловград), пройшла в друге коло, але там 17 вересня поступилася харківському «Локомотиву» — 1:7.
У 1945 році «Сталь» пройшла до четвертого кола (аналог 1/8), де завдяки неявці однойменного клубу з Дніпропетровська на матч 21 жовтня вийшла в 1/4. Там маріупольців знову зупинив харківський «Локомотив» (майбутній володар тогорічного кубка) — розгромом з рахунком 0:15.
У 1946 році «Сталь» вилетіла вже в першому колі, 29 вересня, від ворошиловградського «Динамо» — 1:2.
У кубковому розіграші 1947 року в першому колі «Сталь» 21 вересня пройшла ворошиловградського «Дзержинця» — 4:0. А в другому, 28 вересня, програла «Сталі» з Дніпродзержинська — 2:3.
У 1960 році команда «Авангард» (Жданов) об'єдналася з командою «Шахтар» (Рутченкове — зараз район міста Донецька), створивши команду «Азовсталь» (Жданов).
Протягом 1960-х років клуб виступав в класі «Б» і другій групі класу «А», а в наступні десятиліття в українській зоні другої ліги.
Виступи в Україні
Перший чемпіонат незалежної України «Азовець» провів у першій лізі, але зайняв 11 місце і вилетів у другу лігу, де впродовж наступних двох сезонів був її середняком.
Влітку 1995 року «Азовець» об'єднався з одним із лідерів другої ліги — командою «Динамо» (Луганськ). 3 квітня1996 року команда змінила назву на «Металург» і вже під цією назвою в першому ж сезоні об'єднаній команді вдалося зайняти перше місце і вийти до першої ліги.
Перший сезон в вищій лізі команда провела не дуже вдало, посівши 12-те місце і відірвавшись від зони вильоту лише на одне очко, проте після цього команда стала незмінно займати місця в верхній половині таблиці, а сезон 2000—2001 взагалі став найкращим в історії клубу — «Металург» зайняв четверте місце в чемпіонаті і дійшов до півфіналу кубка України.
У сезоні 2004—05 команда знову нагадала про себе, посівши п'яте місце і за рейтингом Fair Play УЄФА вперше в своїй історії потрапила в єврокубки, зігравши у Кубку УЄФА. Там в першому кваліфікаційному раунді маріупольці обіграли вірменський «Бананц» (2-0, 2-0), але в другому поступилися австрійській «Аустрії» (0-0, 0-3).
У сезоні 2006—07, після двох сезонів вдалих виступів, команда несподівано вилетіла до першої ліги, але наступного сезону посіла там перше місце і повернулась в елітний дивізіон.
З того часу команда в Прем'єр-лізі стала займати місця в нижній частині таблиці, кожного сезону борючись за виживання. Так в першому сезоні після повернення команда змогла забезпечити прописку лише після 30-го туру чемпіонату, у якому доля «Іллічівця» повинна була вирішитись на стадіоні «Україна» у львівському дербі «Карпат» і ФК «Львів». Маріупольцям була необхідна лише поразка «городян». У драматичному протистоянні (Григорій Баранець не забив пенальті) «синьо-золоті» поступились 1:2 і за результатами сезону саме вони повернулися до першої ліги, адже «Іллічівець» випередив львів'ян за кількістю перемог (якби кращого визначили за різницею м'ячів, то маріупольці покинули б Прем'єр-лігу).
Через рік доля «Іллічівця» знову вирішувалася в останньому турі — маріупольська команда посідала 15-те місце, відстаючи від ПФК «Севастополь», що знаходився на рятівному 14 місці на одне очко. «Севастополь» приймав «Таврію», а «Іллічівець» — «Динамо». «Іллічівець», поступаючись по ходу гри 0:2, здобув вольову перемогу з рахунком, а «Севастополь» поступився 0:1. Таким чином «Іллічівець» знову зберіг прописку в еліті на наступний сезон[2].
У сезоні 2011/12 команда виступила трохи краще і в підсумку зайняла 11-те місце, після чого до команди на посаду головного тренера повернувся її багаторічний тренер Микола Павлов[3].
14 червня 2017 року клуб було перейменовано на ФК «Маріуполь» в рамках виконання закону про декомунізацію[1]. Після двох сезонів у першій лізі клуб цього ж року повернувся у прем'єр-лігу.
У лютому 2018 року ФК «Маріуполь» перейменував свій стадіон на честь колишнього президента меткомбінату В. Бойка[4]
У сезоні 2011/12 у заявці «Маріуполя» був 21 гравець, що грав за маріупольців на правах оренди[6]. Більшість з них — молоді гравці з донецького «Шахтаря».
В квітні 2023 року бразильський клуб «Бател» зі штату Парана на знак солідарності прийняв назву, емблему та кольори «Маріуполя». У клубі заявили, що їхня команда носитиме кольори «Маріуполя», поки той не повернеться до свого міста.[7]