Камни для сооружения альпинария выбирают в зависимости от их качества, формы, поверхности, а порой и цвета, причем по своему вкусу. Интересный, красивый альпинарий можно создать из любых сортов природного камня. Рекомендуется выбирать камень из естественных скал, где ветер обработал его поверхность и придал ему форму. Особенно ценятся лесные камни-валуны, покрытые мхом или лишайником, а также известняк, обработанный самой природой — ветром, дождем, снегом.
Не следует использовать каменный лом с острыми краями, только что вывезенный из, каменоломни. Непригодны для альпинария и речные камни, круглые, с гладкой светлой поверхностью — здесь они кажутся инородными телами.