Kent, Mazı Dağları’nın (Masius) güney yamaçlarında, doğudan batıya 2.500 m uzunluğunda, 500 m genişliğinde bir alana kurulu. Kaleden ve karşıdan bakıldığında, Mardin evleri bir-biri üstüne yığılmış gibi durmakta. Doğal konumdan doğan bu üst üstelik ve sıkışık yapılaşma, kente özgün bir görünüm kazandırıyor. Çevrenin ağaçlıklı görünümüyle kale eteğinden başlayarak ovaya doğru teraslar biçiminde inen ak evler, ilginç bir çelişki yaratıyor.
Ortaçağ mimarisini günümüzde de sürdüren bu yapılaşma “Kuzey Suriye mimarisine sıkı sıkıya bağlı olan Şanlıurfa ve kuzey etkileriyle karışık Diyarbakır’ın şehircilik strüktüründen (yapısından) tamamıyla farklı olarak, bir kapalı bölge karakteri gösteriyor. Kolay işlenen ve ocaktan çıkartılan bir süre sonra sertleşen bu kireçli oluşum Mardin yapılarının her devrinde aynı rahatlıkla halen kullanılıyor. Bu evlerde herhangi bir sıva malzemesi bulunmuyor.
Belirli zamanda taşların temizlenmesi amacıyla, taş kırıntıları kum haline getirilerek ve bu kum ile duvar temizleniyor. Duvarların örülme işleminde ise kireç ile karıştırılan bu kumdan harç elde ediliyor ve bu harç ile duvar örülüyor. Mardin’de ahşap malzemenin kullanılmamış olması, Mardinlilerin taşçı geleneğine sıkı sıkıya bağlı olmasından kaynaklanıyor. Bu gelenek o kadar yerleşmiştir ki bugün bile beton yapılar yadırganmakta.
Mardin evleri kalenin eteklerinden ovaya doğru birbiri üzerine yükselen teraslar halinde, tepenin güney yamacına yerleşmiş. Volkanik bir bölgede kurulu Mardin’deki tüm yapıların ön avluları cepheye bakmakta. Mezopotamya ovasına açılan kapılar tepenin eğimi üzerinde kuruldukları için en az iki katlı. Hiçbir evin gölgesi birbirinin üzerine düşmemesi, Mardin evlerinin çok sayıdaki ilgi çekici özelliklerinden sadece biri.