Ideen om å etablere et oljemuseum i Stavanger ble lansert allerede i 1974, lenge før det var mulig å forutsi hvor stor betydning oljevirksomheten skulle komme til å få for det norske samfunn. Stiftelsen Norsk Oljemuseum ble etablert i 1981, og etter den tid er det samlet inn gjenstander, film, foto og annet materiale som dokumenterer norsk olje- og gassvirksomhet.
I 1992 vant Lunde & Løvseth Arkitekter AS en nasjonal arkitektkonkurranse med 48 bidrag om Norsk Oljemuseum. I 1996 var prosjektet fullfinansiert. Staten har bidratt med 60 millioner kroner, Rogaland fylke med 10 millioner og Stavanger kommune med 20 millioner kroner og tomt. 75 millioner kroner ble samlet inn blant private sponsorer. Selve byggearbeidene startet i juni 1997.
Krevende arkitektur, avanserte tekniske løsninger og vanskelige tomteforhold gjorde byggearbeidene spesielt utfordrende. I løpet av en byggetid på 22 måneder reiste museet seg i stein, glass og betong. Stavanger hadde fått et nytt monumentalbygg. Byggeprosjektet ble ferdigstilt innenfor rammen på de 165 millioner kronene som var samlet inn til museet. Tidsplanen holdt også. Den offisielle åpningen ble foretatt av Hans Majestet Kong Harald 20. mai 1999.
Filmen «Norsk Oljemuseum- fra idé til virkelighet» ble laget i 2014 i forbindelse med at det var 15 år siden museumsbygget åpnet.
Les mer i en artikkel fra Norsk Oljemuseums årbok for 2006: Kristin Øye Gjerde: Norsk Oljemuseum – 25 år!