NJegov životopisac, monah Danil, kaže za njega: „Uznese se telom na Goru Sinajsku, a duhom na Goru Nebesnu“. Kod svoga duhovnog oca, Martirija, provede u poslušanju 19 godina. Anastasije Sinajski, videvši jednom mladoga Jovana proreče o njemu, da će biti iguman Sinajski. Po smrti svoga duhovnika Jovan se povuče u jednu pešteru gde u teškim podvizima prožive 20 godina. NJegov učenik Mojsej zaspa jednog dana u hladu jednog velikog kamena. Jovan na molitvi u svojoj ćeliji vide da je njegov učenik u opasnosti, i poče se za njega Bogu moliti. Kada docnije dođe Mojsej, pade na kolena i zablagodari svome duhovnom ocu, što ga spase od sigurne smrti. I ispriča kako u snu ču gde ga Jovan viče, pa skoči, i u tom času onaj kamen pade. Da nije skočio, kamen bi ga ubio.

Na navaljivanje bratije Jovan se primi za igumana, i upravljaše spasenjem duša ljudskih sa revnošću i ljubavlju. Ču jednom prekor od nekih, kao da je on mnogoglagoljiv. Ne rasrdivši se nimalo Jovan zaćuta i celu godinu ne progovori ni reči, dok ga braća ne umoliše da progovori i nastavi učiti ih svojom bogodanom mudrošću. Jednom dođe 600 poklonika u manastir Sinajski. Pri trpezi svi videše jednog okretnog mladića u jevrejskom odelu, koji služaše i drugim slugama zapovedaše i raspoređivaše. Najedanput toga mladića nesta. I kad se svi obzirahu i raspitavahu, reče Jovan: Ne tražite ga, to prorok Mojsej posluži na svome mestu.

"Lestvica"

Za vreme svoga molčanja u pešteri Jovan napisa mnoge korisne knjige, od kojih je najslavnija, i dan-danas mnogo čitana "Lestvica", u kojoj se opisuje metod uznošenja duše k Bogu kao uz neku lestvicu. Pred smrt odredi Jovan za igumana brata svog po telu, Georgija. No ovaj tugovaše mnogo zbog rastanka sa Jovanom. Tada mu Jovan reče da ako se on udostoji blizine Božje u onom svetu, moliće, da i on, Georgije, te iste godine bude uzet na nebo. Tako se i zbi. Posle 10 meseci i Georgije usnu, i useli se među građane nebeske kao i veliki mu brat Jovan.