إن انتشار الخلافات والفوضى داخل الدولة السلوقية قد مهد لاجتياح سوريا وفلسطين على أيدي القائد الروماني بمومبى عام 63 ق.م. بلغت الإمبراطورية الرومانية في هذه الفترة أوج عظمتها، حيث سيطرت تقريبا على كل سواحل البحر الأبيض المتوسط، عدا عن مناطق واسعة أخرى. وكان أكثر من نصف سكان القدس في بداية الفترة الرومانية من اليهود، في حين تشكل باقي السكان من العرب، والعرب الأنباط، والمصريين والفينيقيين، وذلك بناء على تقديرات الجغرافي اليوناني ستربو حوالي العام 19 بعد الميلادي.
أوكل الرومان مهمة إدارة القدس وما حولها إلى شخصية أدومية وهو هيرودوس (حرد) الكبير والمسمى أيضا هيرودوس الأدومي، وذلك في العام 40 ق.م. والذي قام باجتياح المدينة بمساعدة روما بعد تعيينه بثلاث سنين (عام 37 ق.م)، ليستمر هذا الملك في حكم القدس وفلسطين والمناطق المحيطة بها حتى السنة الرابعة قبل الميلاد، تاركا وراءه منجزات معمارية عظيمة الشأن، وكذلك طرازا مميزا يحمل اسمه حتى اليوم أي "الطراز الهيرودي".
وصلت القدس في عهد هيرودوس توسعا لم يسبق له مثيل، ويعتبر الأكبر في تاريخ المدينة حتى حينه، بحيث ضمت كل البلدة القديمة تقريبا، ما عدا منطقة كنيسة القيامة والمنطقة الواقعة إلى الغرب منها، ووصلت شمالا حتى باب العامود، كما توسعت باتجاه الجنوب الغربي لتصل إلى أطراف حارة الأرمن. ومن الجنوب وصلت إلى عين سلوان، في حين أن المدينة قد وقفت عند السور الشرقي، ولم يعد هناك أي استعمال لتلة الضهور (خرائب المدينة اليبوسية)، الذي هجر. أخذت القدس الشكل الشبكي في تخطيطها وبدأت القدس تبدو كمدينة كاملة التكوين.
وتذكر الرواية التاريخية بأن هيرودوس قد بدأ ببناء مبنيين مربوطين بحدائق وقنوات ماء، سمى أحدهما سيزاريوم (Ceaeasreum)، تكريما لصديقه أوكتاوفيوس أغسطس. كما شيد مسرحا (Theater)، ومسرحمكشوف (Amphitheater)، وميدان سباق الخيل (Hippodrome). ويذكر بأن هذه منشآت ترفيه رومانية تثبت الوجه الحضاري للقدس التي قام هيرودوس بإعادة إنشائها. لم يبق من المباني العامة الضخمة التي أنشأها هيرودوس في المدينة أي شيء متكامل، وذلك بسب الدمار الشامل الذي ألحقه بها القائد الروماني طيطس ابن الإمبراطور فسبسيان عام 70 م، بعد قمعه لثورة اليهود التي اندلعت في أواخر العقد السابع من القرن الميلادي الأول، ضد الإمبراطورية الرومانية.
مات هيرودوس عام 4.ق.م، فاقتسم أبناؤه الدولة كأمراء رومان، وخلال بداية حكمهم ولد السيد المسيح. ولا نلحظ أية تطورات ملموسة على القدس خلال الفترات اللاحقة، فيبدو أن انجازات هيرودوس قد سيطرت تماما، ولم يأتي بعده أي حاكم قوي يستطيع أن يساهم في التنمية الحضارية. وأصبح الحكام يسمون وكلاء (procurators)، ولاحقا أصبحوا يسمون (perfect)، وقد حكم أغلبهم لفترات قصيرة سواء أولئك الذين تحدروا من هيرودوس مثل هيرودوس أغريبا (حكم 41-44م)، او الولاة المتحدرين من أصل روماني.
تدهورت أوضاع القدس والمنطقة المحيطة بها بين السنوات 52-60م وانتشرت الثورات، فقام الجيش الروماني بتدمير القدس بشكل شبه شامل عام 70م على يد طيطس، بحيث سويت أجزاء واسعة من المدينة بالأرض. وتذكر المصادر بقاء طيطس في القدس مدة شهر أشرف خلالها على تدمير المدينة. عسكر الفيلق الروماني العاشر في القدس لمنع أية ثورات أخرى في المدينة، وكان معظم جنود الفيلق العاشر من السوريين والعرب، وقد استقر غالبيتهم في القدس حيث عسكروا فيها حوالي 25 سنة، مما أدى إلى إحضار عائلاتهم إليها، او أنهم قد تزوجوا من نساء محليات، وبالتالي تحولوا إلى سكان في المدينة.
وحين زار الإمبراطور الروماني هادريان القدس عام 129م أمر بإعادة بناءها من جديد، وذلك كمستعمرة رومانية وثنية، وأطلق اسمه عليها اسم "إيليا كابيتولينا"، نسبة له (EeliusHadrianus).لم يكن قرار إعادة بناء المدينة مجرد عملية بناء محضة، فقد تبعها إسقاط حضاري روماني شامل على المدينة، ومن ضمنها منع اليهود منذ عام 135 ممن السكن في القدس، كما شكلت حركة إعادة البناء إحلالا ديموغرفيا بكل ما للكلمة من معنى.
إن البلدة القديمة المسورة بشكلها الحالي هي بالأساس مدينة رومانية صغيرة الحجم، ولم يجري عليها الكثير من التغييرات، وتشكل المحاور الأساسية فيها، استمرارا رومانيا لم ينقطع. كما ويمكن استقراء ذلك عبر الشارع الرئيس الذي يقطع المدينة من الشمال إلى الجنوب. يبدأ هذا الشارع عند باب العمود في الشمال وينطلق من ساحة ضخمة نصف دائرية ومعمدة ويستمر باتجاه الجنوب حتى باب النبي داود تقريبا وسمي "كاردو مكسيموس". أما الشارع الطولي الرئيس الآخر فيبدأ أسفل باب العمود وينحرف شرقا باتجاه طريق الواد ويستمر جنوبا باتجاه سلوان، وذلك بشكل مواز مع الشارع الأول. وكذلك عدة طرق عرضية (غربية شرقية) أهما الذي يبدأ في مكان ما عند باب الأسباط ويتجه غربا حتى النزل النمساوي، ويستمر غربا حتى يتقاطع والكاردو، كما يمكن الإشارة الى شارع عرضي آخر يبدأ عند باب الخليل ويتجه شرقا وصولا إلى الحرم الشريف، وسمي "ديكامانوس". وبالتأكيد كان هذا الشارع أيضا مركزيا، لكنه لم يكن بمركزية الشارعين السابقين.
خضعت القدس للديانة الرسمية للإمبراطورية الرومانية، وهناك دلائل كافية على عبادة سيرابيس أيضا، آلهة الشفاء المصري اليوناني، خاصة إلى جانب المياه المقدسة والتي تم تحديدها في بركة بيت حسيدا الواقعة اليوم في فناء كنيسة القديسة حنة (المدرسة الصلاحية). ومن المعتقد بأن الموقع الذي بنيت عليه كنيسة القيامة، قد شهد قدسية رومانية عبر بناء معبد أفروديت، وإلى جانبه بني أيضا معبد جوبتر، وذلك بالقرب من تقاطع الشارعين المتعامدين، وقد جرى توسيع القدس بحيث ضمت إليها منطقة كنيسة القيامة والمناطق التي تقع إلى الغرب منها. ويبدو بأن منطقة الحرم الشريف قد شهدت بناء تمثالين رخاميين ضخمين للإمبراطور هادريان وللإمبراطور أنطونيوس.
بقيت القدس بلا أسوار ما دام الجيش الروماني مرابطا فيها. انسحب الجيش منها في نهاية القرن الثالث وبداية القرن الرابع الميلادي، مما استدعى بناء أسوار القدس الرومانية، لتساهم في الدفاع عنها، حيث لم يتبقى بها إلا حامية رومانية صغيرة. وتخبرنا المصادر بأن هذه المدينة قد احتوت على الكثير من المباني الرومانية العامة، نذكر منها: بنايتان للإدارة، ومسرح، ومبنى من ثلاثة أروقة، ونافورة ماء ضخمة مكونة من أربعة أجزاء، ومبنى ضخم له اثني عشر بابا، ودرج عريض، وساحة عامة واسعة ... الخ لكن أي من هذه المباني لم يصلنا، كما أن موقعها لا يمكن تحديده على وجه اليقين.