King ‘ s vader, James Rivers King, had een buitenlandse handelsmaatschappij, vooral met China, maar stierf al in 1848, en zijn moeder, Florence Little King, raakte tijdelijk in financiële problemen toen het familiebedrijf van haar overleden echtgenoot, dat zichzelf bleef onderhouden, werd ontbonden. King ging eerst naar school in Hartford, Connecticut, en ging vervolgens naar Yale University (Sheffield Scientific School) met afstuderen in 1860. Hij studeerde daar natuurwetenschappen, met name natuurkunde, scheikunde en geologie bij James Dwight Dana, maar zijn echte interesse in geologie werd pas na zijn studie gewekt, gevoed door zijn enthousiasme voor een verblijf in de wildernis en in de bergen. Hij sloot zich aan bij pre-Raphaelite artistieke kringen in New York City en woonde daar met James Terry Gardiner.In 1863 ging hij naar Californië om te werken bij de voorloper California Geological Survey als onbetaald assistent onder Josiah D. Whitney en William H. Brewer. Zijn ervaringen als bergbeklimmer werden later opgenomen in zijn boek Alpineering in the Sierra Nevada (1872) en hij beklom verschillende bergtoppen in de Sierra Nevada, zoals Mount Tyndall, Mount Shasta en Mount Whitney. Hij werkte daar samen met zijn vriend Gardiner, die zich bij hem had gevoegd, en maakte deel uit van de expeditie in September 1864, die de grenzen van de Yosemite Valley verkende, die in hetzelfde jaar door Abraham Lincoln werd uitgeroepen tot het eerste nationale park in de VS. Op de terugweg op zee via Nicaragua werd hij ziek van malaria. in 1865 verkende hij namens het Amerikaanse leger de Mojavewoestijn en Arizona met Gardiner, en in 1866 opnieuw Yosemite.Van bijzonder belang in 1867 was een expeditie langs de 40e breedtegraad over de Amerikaanse Cordilleras, uitgevoerd in opdracht van de minister van oorlog en geleid door BRIG. en BAT. Generaal-majoor A. A. Humphreys stond op. Naast King bestond het team uit: Den Haag, Arnold, 1840-1917; Emmons, Samuel Franklin, 1841-1911; Den Haag, James Duncan, 1836-1908; Meek, Fielding Bradford, 1817-1876; Hall, James, 1811-1898; Whitfield, Robert Parr, 1828-1910; Ridgway, Robert, 1850-1929; Watson, Sereno, 1826-1892; Eaton, Daniel Cady, 1834-1895; Bien, Julius, 1826-1909. Ze leidde langs de route van een geplande transcontinentale spoorlijn, de belangrijkste geoloog waarvan hij was, waarbij de geologen Samuel F. Emmons en Arnold Hague (een medestudent van Yale) zijn assistenten waren, en Gardiner was ook betrokken. King werd de eerste directeur van de nieuw gevormde United States Geological Survey in 1879, een taak die hij alleen op zich nam om de survey op te bouwen. In 1881 droeg hij de leiding over aan de opvolger die hij had gekozen, John Wesley Powell. Daarna wijdde hij zich opnieuw aan zijn sociale leven en was hij bevriend met staatslieden als Henry Adams en John Hay. Zijn privé-activiteiten in de mijnbouw waren niet genoeg om zijn weelderige levensstijl te financieren, en hij zat zwaar in de schulden.In 1872 werd hij bekend toen hij een bedrog blootlegde met diamantmijnen in Arizona. De oplichters hadden de mijnen aangeboden aan investeerders in San Francisco en New York (waaronder bekende namen als Tiffany ‘ s en Baron Rothschild) en leidden hun experts naar een afgelegen berg, die ze hadden gevaccineerd met industriële diamanten. King en zijn assistent Samuel F. Emmons controleerden dit onafhankelijk en maakten het bedrog bekend. Hij was lid van de National Academy of Sciences, de American Philosophical Society en de American Academy of Arts and Sciences. King Peak in Antarctica is naar hem vernoemd.King leidde een dubbelleven in zijn laatste jaren. Hij trouwde in 1888 in New York met de voormalige slaaf en Afro-Amerikaanse verpleegster Ada Copeland, met wie hij vijf kinderen kreeg. Tot kort voor zijn dood, beschuldigde hij haar van een black railway werknemer genaamd James Todd, ondanks zijn verschijning, omdat interraciale huwelijken werden ook geconfronteerd met sterke sociale terughoudendheid in New York op dat moment.