Il ne reste pas de maisons de la période romane et les plus anciennes du village datent seulement de la fin du Moyen Age. Mais l'adaptation à la pente du terrain et l'utilisation des matériaux locaux confèrent une grande unité à l'habitat conquois, quelle que soit l'époque de la construction. Disposées en palier sur le versant, les maisons tournent en général leur façade principale vers le midi, et elles possèdent deux entrées, celle du rez-de-chaussée ouverte sur la rue inférieure, celle de l'étage sur un jardin ou la rue supérieure. D'après un dicton local : « A Conques, on entre au grenier pour ressortir par la cave ». Cette dernière est partout présente dans cet ancien pays de vignerons, parfois juxtaposée à une échoppe. Chaque emplacement a dû être creusé dans le roc et, pour prévenir les éboulis, un arc de décharge vient souvent s'appuyer contre la paroi du fond.
Le schiste règne partout en maître. Extrait sur place et facile à débiter, il fournit non seulement la pierre à bâtir, mais aussi les lauzes des toits et le pavé des rues. Les hautes toitures aux reflets d'argent, agrémentées de lucarnes ou même de clochetons, contribuent beaucoup au charme du bourg. Le schiste cède la place à la pierre de taille, le grès rose ou gris, le granit plus rarement, pour les encadrements de portes et de fenêtres. Enfin le beau calcaire jaune de l'église, le « rousset », se retrouve çà et là dans les constructions, parfois sous la forme de colonnes ou même de fragments sculptés en provenance des bâtiments monastiques romans. Le pillage de matériaux par les habitants atteignit sa plus grande ampleur au cours des premières décennies du XIXe siècle, après la démolition du cloître.
L'originalité de Conques réside aussi dans ses façades à colombages, édifiées selon une même technique, depuis le XVe siècle au moins jusqu'aux environs de 1900 : des pans de bois disposés en oblique ou en X avec un remplissage de schiste. Les plus belles façades ont deux étages en encorbellement, supportées par des poutres aux têtes taillées en console. Pour qui les contemple depuis le site du Bancarel, par exemple, les vieilles maisons de Conques forment avec l'abbatiale Sainte-Foy qui paraît les écraser de sa masse, un ensemble indissoluble, d'un pittoresque exceptionnel.