В 30-е годы XVIII века на скале началось строительство деревянной крепости в урочище Красного яра. «Красный» — красивый, а яром тогда называли крутой скалистый берег. Так и прозвали крепость Красноярской, кто-то же называл ее Уфимской. Позже эти два слова образовали и название города Красноуфимск.
Крепость имела несколько бастионов с пушками и бойницы. По рассказам академика И.Лепехина, посетившего Красноуфимск в 1770 году, в крепости было 516 жителей на 171 дом.
«Крепость, находясь на возвышенном берегу Уфы, примыкала западной стороной к каменному гребню. По этому высокому гребню были воздвигнуты бастионы, вооруженные пушками. Далее вниз по течению реки тянулись высокие деревянные стены с башнями», — писал И.Лепехин.
Каменный гребень, о котором пишет академик, называется ныне «Камешек», а тогда это место называли Болгарами. Именно на нем сохранилась сторожевая крепостных башен. По одной легенде, именно от нее пошла история города. По другой — это кирпичное сооружение в византийском стиле было построено уже на месте бывшей крепости. В любом случае, сейчас это Часовня Иосифа Песнопевца, которую местные называют «Часовней на камушке». Это идеальное место на возвышенности, с которого открывался хороший обзор, чтобы охранять заводскую границу.
По еще одной легенде, именно в этой башне в 1774 году останавливался предводитель крестьянского бунта Емельян Пугачев
Сама Красноуфимская крепость дважды переходила из рук повстанцев в руки правительственных войск.
Часовня на «Камушке» была выстроена в конце XIX века.
По одной из версий ее возвела на свои деньги жена купца Корпанева
Он был достаточно богат, но прослыл страшным алкоголиком. К пагубной привычке пристрастились и его сыновья. Главной иконой часовни стала «Неупиваемая чаша», которой поклонялась Корпанева, чтобы избавить семью от алкоголизма.
По другой легенде, на этом месте был потайной ход в скале. Об этом пишет академик И. Лепехин, которому о входе на Болгарах рассказали местные жители. На скале действительно есть лаз в пещеру.
«Местные старожилы рассказывали, что под Болгарами был подземный ход с ответвлениями и шел он в две стороны: на Атамановскую гору и Юртовской камень
На Камешке был вход в скалу», — писал депутат II Государственной думы Российской империи Павел Сигов.
Единственное, что действительно осталось со времен Красноуфимской крепости — это караульная казачья изба. Казаки были основным населением в крепости в конце XVIII начале XIX века. В погребе избы было место для пороха. Сохранилась и бойница. Место для караульной избы было выбрано не случайно — тут открывается вид на все окрестности. Для наблюдательного пункта было прорезано специальное окно. Остальные окна в настоящее время забиты. Изба представляет собой типичный одноэтажный сруб, выложенный из лиственницы. Внутри пространство разделено печью на жилые две комнаты и кухню.
Начиная с 2018 года избой занялись власти. Они пытаются сохранить исторический памятник путем консервации или реставрации. Пока стоимость работ оценена в 1,4 млн рублей.