Az Eötvös Loránd Tudományegyetem (ELTE TTK) Ásvány-Kőzettani Intézetének keretein belül 1950-ben az MTA támogatásával létrehoztak egy kis létszámú, de jól finanszírozott kutatócsoportot a geokémia fejlesztése céljából. Ezen alapulva, 1955. jan. 1-jén, az akkor önállósuló Kőzettan-Geokémiai tanszékhez kapcsolódva, azzal Szádeczky-Kardoss Elemér, akadémikus, tanszékvezető révén perszónál unióban hozták létre az MTA Geokémiai Kutatólaboratóriumát (GKL) az ELTE TTK Budapest, VIII. ker. Múzeum krt.4/a. épületében.

Az 1956-ban bekövetkezett kisebb visszaesés után a következő 20 évben a kutatóhely - az MTA más intézményeihez hasonlóan - extenzíven fejlődött Szádeczky-Kardoss Elemér akadémikus igazgató irányításával. A személyzeti állomány 1974-re 26 fős volt, amelyből 15 fő volt a kutató. A kor szintjén modernnek számító nagyműszer parkkal rendelkezett. Mindennek következtében sokirányú tematikát műveltek sikeresen a GKL-ben, amelyek nagy része az országban úttörő jelentőségű volt.

Az igazgató nyugdíjba vonulásával - az MTA koncentrációs törekvései miatt - másik négy természettudományos kutatóhellyel összevonva, az 1975.jan. 1-jével újonnan alapított MTA Természettudományi Kutatólaboratóriumai (MTA TTKL) keretében működött tovább a GKL, tudományos és személyzeti-gazdálkodási önállóságának megtartása mellett, az MTA újonnan épített Budapest, XI., Budaörsi út 45. sz. alatti Kutatóházában. A GKL igazgatója Pantó György lett, aki 1999-ig folyamatosan vezette a kutatóhelyet. A kor követelményeinek megfelelően az alapkutatások mellett az alkalmazott kutatás és a gyakorlati feladatok ellátása iránti fogékonyság növekedett. Így a korábbi kutatási irányzatok részben átalakultak, részben a nemzetközi trendhez igazodva újabb témacsoportok jelentek meg (pl. RFF-ek geokémiája, csillámszerkezetek és agyagásványok szerkezet kutatása kőzet genetikai és szerkezetfejlődési céllal, biomarkerek alkalmazása a szénhidrogén-genetikában, környezet geokémia, később izotóp geokémia). Ennek megfelelően, a korábbi nagyműszerek elöregedésével ezek újakkal történő pótlása, valamint újabb nagy-műszer (tömegspektrográf) bevezetése történt. Mindez a nemzetközi kapcsolatok nagymérvű fejlesztésével, valamint a hazai ipari kutatással történő széleskörű együttműködéssel valósulhatott meg.

A GKL igazgatója, Pantó György 1990-ben az MTA lev. tagja, majd 1995-ben rendes tagja lett, Árkai Pétert pedig 1998-ban levelező taggá választották.

Az MTA konszolidációs törekvéseinek megfelelően 1998. január 1-jén megszüntették a korábbi MTA TTKL-t és egyben létrehozták az MTA Földtudományi Kutató Központot (MTA FKK), amelynek keretében a GKL másik két földtudományi kutatóhellyel összevontan, de továbbra is önálló tudományos személyzeti és gazdálkodási irányítással, Árkai Péter, az MTA lev. tagja igazgatásával folytatta munkáját. Az FKK főigazgatója Pantó György akadémikus lett, aki az Igazgató Tanács közreműködésével koordinálta az új intézmény közös ügyeit. 2005 január 1-től az FKK (és benne a Geokémiai Kutatólaboratórium) - névváltoztatással - tudományos, jogi és gazdasági szempontból önálló Geokémiai Kutatóintézetté (GKKI) alakult át. A GKKI székhelye változatlanul az MTA Budaörsi úti Kutatóháza maradt. A GKKI az MTA Földrajztudományi Kutatóintézetével és Geodéziai és Geofizikai Intézetével együtt az MTA Földtudományi Kutatóintézeteinek Társulását hozta létre.

2008. január 1. és 2026. február 28. között az intézetet Demény Attila vezette, akit az MTA közgyűlése 2010-ben levelező, majd 2016-ban rendes taggá választott. A szervezeti átalakulások során 2012. január 1-től az intézet az MTA Csillagászati és Földtudományi Kutatóközpontjában Földtani és Geokémiai Intézet néven működött tovább. 2019-ben az MTA intézethálózatától független Eötvös Loránd Kutatási Hálózat részévé vált, amely 2023. szeptemberétől HUN-REN Magyar Kutatási Hálózatként folytatta működését. Az elmúlt másfél évtizedben a kutatói létszám közel másfélszeresére emelkedett, a publikációs teljesítmény tízszeresére nőtt, az intézeti közleményekre érkező hivatkozások száma pedig több mint hússzorosára bővült. Ezzel párhuzamosan a laboratóriumi infrastruktúra megújult, a kutatási portfólió új irányokkal gazdagodott, többek között két MTA Lendület kutatócsoport (Paleoklíma 2ka és PannonVulkán) jött létre.

2026. március 1-től az intézetet Hatvani István Gábor, az MTA doktora, a Young Academy of Europe tagja és a Fiatal Kutatók Akadémiájának alumnusa vezeti.