История каньона берет начало задолго до появления туристических маршрутов. Первыми мрамор здесь добывали шведы в XVII веке, но использовали его исключительно для получения строительной извести. После Северной войны территория отошла России, однако несколько десятилетий простояла без дела.
Все изменилось при Екатерине II. В 1765 году местный пастор Самуил Алопеус обнаружил в карельском лесу скалы редкого по красоте камня, и уже через год началась опытная добыча мрамора. С 1768 года в пяти карьерах одновременно добывали четыре сорта мрамора: пепельно-серый, серо-зеленый, белый с прожилками и бело-сине-серый. Им облицевали Исаакиевский собор, Михайловский замок, выложили полы Казанского собора и обрамили окна Мраморного дворца.
К середине XIX века мода на рускеальский мрамор прошла, добыча сократилась. В 1896 году месторождение арендовали финны: построили мраморно-известковый завод и производили крошку для городских зданий, в том числе для штукатурки стен и покрытия полов. Производство закрылось с началом Советско-финляндской войны, а главный карьер затопили грунтовые воды. С 1998 года территория получила статус памятника истории и культуры Республики Карелии. Горный парк открылся для туристов в 2005 году.