Główną bohaterką powieści jest Mary Lennox, która przyszła na świat w Indiach. Jej ojciec był wysokim urzędnikiem administracji kolonialnej, matka zajmowała się głównie życiem towarzyskim: balami i spotkaniami. Wychowywanie córeczki pozostawiali hinduskiej niańce Ayah. Pozbawiona rodzicielskiej opieki Mary terroryzowała służbę, była dzieckiem chorowitym, niegrzecznym i niemiłym. Gdy miała dziesięć lat, jej rodzice zmarli podczas epidemii cholery. Opiekę nad nią przejął wuj Archibald Craven. Dziewczynka pojechała do Anglii, do położonej na wrzosowiskach posiadłości wuja. Jednak i tu wydaje się być pozostawiona sama sobie – wuj w domu nie mieszka, a gospodyni od razu oznajmia, że nie ma obowiązku zajmowania się nią, poza zaspokajaniem podstawowych potrzeb.
Niepotrafiąca nawiązać właściwych kontaktów z otoczeniem Mary początkowo w dalszym ciągu jest niemiła w stosunku do służby wuja, lekceważąc ich i usiłując wymóc takie traktowanie siebie, do jakiego przywykła w Indiach. Jej stosunek zaczyna się zmieniać pod wpływem prostodusznej, sympatycznej i współczującej Mary młodej służącej Marty, która, sama mając liczne rodzeństwo, potrafi zrozumieć potrzeby dziecka. Dużą rolę odgrywa też budzenie się zainteresowania przyrodą i ruch na świeżym powietrzu w wielkim ogrodzie otaczającym pałac Cravena. Mary spotyka tam ogrodnika Bena Weatherstaffa, ponurego milczka, w którym czuje pokrewną duszę.
Pałacowe tereny kryją tajemnicę – otoczony wysokim murem, zamknięty ogród. Mary przypadkowo odnajduje do niego klucz, obserwując małego ptaszka z czerwonym brzuszkiem (w oryginale robin – rudzik, w przekładzie Jadwigi Włodarkiewiczowej i niektórych innych polskich opracowaniach, w tym w tłumaczeniu filmu Tajemniczy ogród Agnieszki Holland – gil). Ten skryty przed ludźmi zakątek zaczyna uważać za swoje królestwo. Ale tajemnicę kryje też wielki dom – dziewczynka słyszy w nocy czyjś płacz, a domownicy zbywają jej dociekania.
Mary poznaje Dicka Sowerby'ego, młodszego brata Marty – prostolinijnego, sympatycznego chłopca, opiekującego się porzuconymi i zranionymi dzikimi zwierzętami. Spokojny Dick, także zainteresowany przyrodą i mający dar oswajania zwierząt, staje się dla Mary wzorem do naśladowania. Prowadzi go do tajemniczego ogrodu i pokazuje, jak starała się pomóc budzącym się właśnie do życia roślinom.
Pewnej nocy Mary znów słyszy czyjś płacz. Tym razem nie daje za wygraną i odszukuje miejsce, z którego dochodzi płacz. Odnajduje rozhisteryzowanego chłopca i daremnie starających się go uspokoić służących. Colin Craven, syn jej wuja, jest nieruszającym się z łóżka, wydelikaconym hipochondrykiem, przez całe otoczenie utwierdzanym w przekonaniu o swojej słabości i chorobie. Dzieci zaprzyjaźniają się, Mary często odwiedza Colina. Pewnego dnia odnajduje go w stanie histerii. Rozzłoszczona i ona daje popis swoich możliwości. Jej reakcja – burzliwa kłótnia z chłopcem – daje efekt lepszy niż delikatność dorosłych. Colin jest przekonany, że rośnie mu garb. Stanowcze zapewnienie Mary, że nic takiego nie widzi, uspokaja go.
Mary, pomna własnych doświadczeń, przekonuje Colina, by i on skorzystał z dobroczynnej mocy natury. Dzieci we trójkę odprawiają w tajemniczym ogrodzie wymyślone przez siebie rytuały, mające pomóc wyzdrowieć niepotrafiącemu chodzić Colinowi. Podczas jednego z takich seansów przyłapuje ich ogrodnik Ben, przedostający się przez mur po drabinie. Rozmowa z młodym paniczem powoduje, że i on przyłącza się do „spisku". Okazuje się też, że tajemniczy ogród był ulubionym miejscem matki Colina i został zamknięty przez rozpaczającego po jej śmierci męża, a Ben mimo decyzji swego chlebodawcy stara się dbać o porastające go różane krzewy.
Podróżujący po Europie pan Craven dostaje list od pani Sowerby z prośbą o powrót do domu. Ulega mu i trafia akurat na moment, w którym jego chory, słaby syn, dziecko, do którego nie chciał się przywiązywać, by nie przeżyć jego przewidywanej utraty tak, jak śmierci żony, staje na nogi i idzie ku niemu. Dzięki mocy natury udaje się uzdrowić bohaterów książki i przywrócić rodzinne więzi.