प्राचीन भारतीय संस्कृत साहित्य में सुमात्रा द्वीप को स्वर्णदीप तथा स्वर्णभूमि कहा गया है क्योंकि इस द्वीप के ऊपरी क्षेत्रों में स्वर्ण धातु के विशाल भण्डार उपलब्ध थे। सुमात्रा में चौथी शताब्दी ईस्वी में भारतीय राजाओं ने अपने राज्य स्थापित किए। चीनी सदंर्भों के अुनसार सुमात्रा के श्री विजयन वंश के राजा ने ई.1017 में अपना दूत चीन के राजा के पास भेजा था। 10वीं शताब्दी ईस्वी से 13वीं शताब्दी ईस्वी के काल में अरब भूगोलवेत्ताओं ने इस द्वीप के लिए लामरी अथवा लामुरी शब्द का प्रयोग किया है।
13वीं शताब्दी इस्वी में मार्को पोलो ने इसे सामारा अथवा सामारचा कहा। चौदहवीं शताब्दी ईस्वी में विदेशी यात्री ऑडोरिक ऑफ पोरडेनोन ने समुद्र के लिए सुमोल्त्रा शब्द का प्रयोग किया। इसके बाद यूरोपीय लेखक इस द्वीप के लिए यही शब्द प्रयुक्त करने लगे। 14वीं शताब्दी के अंतिम दशकों में इस द्वीप पर ”समुद्र पासी” (समुद्र के पास) नामक राज्य की स्थापना हुई। यही ”समुद्रपासी” बाद में सुमात्रा कहलाने लगा। बाद में इस राज्य को मुसलमानों ने समाप्त कर दिया तथा अचेह सल्तनत की स्थापना की। अचेह के सुल्तान अलाउद्दीन शाह ने ई.1602 में इंगलैण्ड की रानी एलिजाबेथ प्रथम को एक पत्र लिखा जिसमें उसने अपना परिचय ”अचेह तथा सामुद्रा का सुल्तान” के रूप में दिया है।
मेलायु राज्य को श्री विजय वंश के राजाओं ने समाप्त कर दिया। श्री विजय राजवंश बौद्ध धर्म को मानने वाले राजा थे। ये पालेमबांग के निकट केन्द्रित थे। सुमात्रा के राजाओं ने 7वीं से 9वीं शताब्दी ईस्वी तक इण्डोनेशिया द्वीप समूह में मलय संस्कृति का प्रसार किया। श्री विजय साम्राज्य के लोग समुद्री द्वीपों में व्यापार किया करते थे। श्री विजय राजाओं के काल में पालेमबांग शिक्षा एवं विद्या का उन्नत केन्द्र था तथा यहाँ चीन के बौद्ध भिक्षु, तीर्थयात्रा के लिए आया करते थे।
चीनी बौद्ध यात्री चिंग ने ई.671 में भारत जाने से पहले सुमात्रा में संस्कृत भाषा का अध्ययन किया। जब वह भारत यात्रा के बाद चीन लौट रहा था तो एक बार पुनः सुमात्रा द्वीप पर रुका और वहाँ उसने अनेक बौद्ध ग्रंथों का चीनी में अनुवाद किया। श्री विजय वंश के राजाओं को 11वीं शताब्दी ईस्वी में दक्षिण भारत के चोल राजाओं से परास्त हो जाना पड़ा। इससे श्री विजय राजवंश कमजोर पड़ गया और इस्लाम को सुमात्रा में प्रवेश करने का अवसर मिल गया।
हालांकि अरब और भारत के मुस्लिम व्यापारी 6ठी एवं 7वीं शताब्दी ईस्वी से सुमात्रा में व्यापार करने आते थे। 13वीं शताब्दी के अंत में समुद्रा के हिन्दू राजा को इस्लाम स्वीकार करना पड़ा तथा वे श्री विजय के स्थान पर अचेह सल्तनत कहलाने लगे।
ई.1292 में मार्को पोलो तथा ई.1345-46 में इब्न बतूता ने सुमात्रा द्वीप की यात्रा की तथा उन्होंने अचेह सल्तनत को देखा। बीसवीं शताब्दी ईस्वी तक अचेह सल्तनत अस्तित्व में रही। बाद में सुमात्रा द्वीप के बहुत से राज्य डच ईस्ट इण्डिया कम्पनी के हाथों अपनी स्वतंत्रता खो बैठे लेकिन अचेह सल्तनत ई.1873 से 1903 तक डचों से लोहा लेती रही।
ई.1903 में अचेह सल्तनत का पतन हो गया और सम्पूर्ण सुमात्रा द्वीप डचों के अधिकार में चला गया। इसके बाद से सुमात्रा डचों के लिए काली मिर्च, रबर तथा तेल का मुख्य उत्पादक द्वीप बन गया। सुमात्रा के अनेक विद्वानों एवं स्वतंत्रता सेनानियों ने इण्डोनेशिया के स्वतंत्रता युद्ध में भाग लिया जिनमें मोहम्मद हात्ता तथा सूतन स्जाहरिर प्रमुख थे। इनमे ंसे मोहम्मद हत्ता इण्डोनेशिया गणतंत्र के प्रथम उप राष्ट्रपति एवं सूतन स्जाहरिर प्रथम प्रधान मंत्री बने।
ई.1976 से 2005 तक इण्डोनेशियाई सरकार के विरुद्ध स्वतंत्र अचेह आंदोलन चलाया गया। इस संघर्ष में वर्ष 2001 एवं 2002 में सुमात्रा द्वीप के हजारों नागरिक मारे गए। उत्तरी सुमात्रा में सात हिन्दू मंदिर खोजे गए हैं। इन पर भारतीय मंदिर स्थापत्य, धर्म एवं दर्शन का प्रभाव स्पष्ट देखा जा सकता है।