SI-järjestelmä on muotoutunut asteittain pitkän kehityksen tuloksena. Sen alkuna oli metrin käyttöönotto pituuden perusyksiköksi Ranskassa ja useissa muissa Euroopan maissa 1790-luvulla. Myöhemmin se laajennettiin metrijärjestelmäksi, jossa oli lisäksi massan perusyksikkö kilogramma ja ajan perusyksikkö sekunti.
Vuonna 1881 määriteltiin sähkövirran voimakkuuden perusyksiköksi ampeeri. Alettiin puhua MKSA-järjestelmästä; nimi johtuu tunnuksista m, kg, s ja A.
Vuonna 1960 otettiin käyttöön nimitys SI-järjestelmä, jossa SI johtuu ranskan sanoista système international ’kansainvälinen järjestelmä’.
SI-järjestelmän on määritellyt BIPM-niminen organisaatio yhteistyössä kansainvälisten standardointijärjestöjen ISO ja IEC kanssa (ks. viitteitä). BIPM:n toimintaa ohjaavat hallitusten välisten sopimusten perusteella järjestettävät konferenssit, CGPM, ja siksi usein puhutaan nimenomaan CGPM:n periaatteista ja päätöksistä.
Määrittelyt eivät ole täysin yhtäpitäviä. Esimerkiksi jotkin ISO-standardeissa sallitut merkintätavat eivät ole BIPM:n tiukempien ohjeiden mukaisia tai toisin päin.