В юности он изучал философию. После смерти родителей святой Марк удалился в Египет и поселился в пещере Фракийской горы (в Эфиопии). Девяносто пять лет прожил преподобный отшельником и не видел за все время не только человеческого лица, но даже зверей или птиц.
Первые тридцать лет были для преподобного Марка самым тяжким временем. Босой и раздетый, он страдал зимой от холода, а летом от зноя. Пищей служили ему редкие пустынные растения, а иногда приходилось есть пыль и пить горькую морскую воду. Нечистые духи преследовали преподобного Марка, клялись потопить в море и, схватив, влекли с горы с криком: «Уйди с нашей земли! От начала мира никто из людей не приходил сюда – ты же как осмелился прийти?»