По одной версии, монастырь был основан византийскими монахами-иконопочитателями не позднее VIII века. В XIII—XIV веках на некоторое время прекратил свою деятельность, затем в XIV веке возродился. Избежав разгрома во время турецкого вторжения в 1475 году, Успенский монастырь стал резиденцией митрополитов Готфских. Однако материальное положение монастыря было бедственным, что заставляло искать помощи у московских великих князей и царей. Эта версия подтверждается обнаружением поблизости от монастыря христианских могил, датируемых VI веком.
По другой версии, основание Успенского монастыря относится к XV веку. Эта версия была предложена А. Л. Бертье-Делагардом со ссылкой на ныне утраченные рукописи. С XV по XVIII век Успенский монастырь был главным оплотом религиозной жизни православного населения Крыма.
В 1778 греческое население покинуло Крым. Выходцы из греческой деревушки Мариамполь, существовавшей у подножия Успенского монастыря переселились в город, позднее известный как Мариуполь. С 1781 года монастырь действовал как приходская церковь, возглавляемая греческим священником.
В 1850 году была возобновлена монашеская община с учреждением Успенского пещерного скита. К началу XX века на территории обители было пять храмов: Успенский пещерный храм, пещерный храм евангелиста Марка, храм Константина и Елены, кладбищенский храм Георгия Победоносца, церковь сятителя Иннокентия Иркутского. Кроме того, были сооружены несколько братских корпусов, дом настоятеля, дома для паломников, устроены фонтаны и фруктовый сад, где в 1867 году была построена Гефсиманская часовня. В монастыре проживало более 60 человек монахов и послушников. Имелось подворье в городе Симферополе и киновия святой Анастасии, находившаяся в долине реки Качи.
Во время Первой обороны Севастополя в Крымской войне в 1854—1855 годы в кельях, доме паломников и других строениях монастыря размещался госпиталь. Умерших от ран хоронили на монастырском кладбище. В 1921 году монастырь был закрыт советскими властями. Имущество монастыря разграблено, монахи расстреляны.
Во время Великой Отечественной войны здесь размещался военный госпиталь. На монастырской территории находится братская могила советских воинов. В послевоенное время на территории монастыря размещался психоневрологический диспансер.
Сейчас восстановлены четыре из пяти монастырских храмов, келейные корпуса, дом настоятеля, колокольня, обустроен водный источник, реконструирована лестница. Также строятся новые храмы (св. вмч. Пантелеимона; свт. Спиридона Тримифунтского). Настоятелем монастыря с 13.06.1993 является архимандрит Силуан.
В настоящее время по численности насельников обитель является крупнейшей в Крыму. С октября 2015 года комплекс Успенского пещерного монастыря является объектом культурного наследия федерального значения.
