Adada ilk yerleşme, antik çağda Miletoslularca olmuştur. Adada deniz kolonileri ile bağlanan yerleşim, 15.yy’dan itibaren de Türklerle devam etmektedir. Ada halkının çoğunluğu oluşturan Rumlar, yüzyıllarca Türklerle yan yana yaşamışlardır. Lozan Anlaşması Mübadele maddesi hükümlerince Rumlar, Yunanistan’a gitmek zorunda kalınca adaya özellikle Karadeniz Bölgesinden gelenler ile Girit Adası’ndan mübadele ile gelenler yerleştirilmiştir.
Antik ismi Prokonnesos olan ada, Kyzikos ile birlikte Delos deniz birliğine bağlanmıştır. İlk çağlardan bu yana mermer yatakları nedeniyle ülkeyi imar etmek isteyen Roma ve Bizans İmparatorluğu’nun en ünlü komutanlarının ilgisini çekmiştir. Osmanlı döneminde de yapılan cami ve sarayların mermerleri buradan sağlanmıştır.
Adını eski çağlardan beri işletilen mermer ocaklarından almıştır. Ada, Roma ve Bizans dönemlerinde deniz üssü olarak kullanılmıştır.
Antik dönem ocaklarında yapılan arkeolojik çalışmalardan elde edilen verilere göre, Marmara çalışmalardan elde edilen verilere göre, Marmara Adası’na dışarıdan gelip yerleşen Sisam ve Miletoslular adada ilk yerleşimi kurmuşlardır. Miletos’ an gelenler adanın kuzey doğusunda bulunan zengin mermer yataklarını keşfedip işlemeye başlamışlardır. M.Ö. 560-550 yıllarında yapılan Helenistik dönem tapınaklarının en büyüğü olan ünlü Artemis Tapınağı’nın sütunlarının bir kısmı Marmara mermerinden yapılmıştır.
Miletos Roma Döneminde Marmara Adası mermer ocakları yoğun bir faaliyet göstermiştir. Bu dönemde mermer ocaklarında mimarlık ve heykeltıraşlık eserleri üretilerek Roma ticaret gemileriyle tüm Anadolu, Adriyatik, Akdeniz ve Karadeniz kıyılarına sevk edilmiştir. Marmara mermeri sadece bloklar halinde veya yarı işlenmiş olarak gönderilip, süsleme ve işleme ayrıntıları ulaştığı yerde yapılırdı.
Bizans döneminde kilise ve manastır mimarsinde kullanılan sütun ve sütun başlıkları çoğunlukla Marmara Mermeri ‘nden yapılmıştır. Ayasofya ve Aya İrini’de bu tip başlıklar bulunmaktadır. Bizans döneminde ocaklardan çıkarılan bloklar yarı işlenmiş ürün yerine tam işlenmiş mamule dönüşerek sevk edilmiştir. Marmara Adası’nda Bizans döneminde mermer işleme tekniğinin ne kadar geliştiğini gösteren en önemli bulgu Harmantaş mevkiinde bulunan, ağırlığı 180 tona yaklaşan 4,45 metre çapındaki sütundur. Getirilmek için yerinden oynatılırken çatladığı için sevkiyatı yapılmamıştır.
Osmanlı dönemi mimarisinde taş işleme sanatı zirveye çıkmıştır. Bu dönemin mimari eserlerinden Süleymaniye Camii, Dolmabahçe Sarayı, Çırağan Sarayı ve bu eserler gibi birçok eserde dönemin mimarlarının öncelikli tercihi Marmara mermeri olmuştur. Mermeri; yapıtaşı, sütun, taşıyıcı eleman, duvar kaplaması, yer döşemesi ve süsleme malzemesi olarak kullanan mimarlar Marmara’nın mermerine ayrı bir önem vermiştir.