公元前1世纪罗马共和国侵入，绝大部分犹太人流亡世界各地。公元7世纪成为阿拉伯帝国的一部分。阿拉伯人不断移入，并和当地土著居民同化，逐步形成了现代巴勒斯坦阿拉伯人。1099年十字军攻陷耶路撒冷建国，由封建领主建立起来的法兰克式的封建国家。1174年著名的耶路撒冷传奇国王，鲍德温四世即位，后于1185年因麻风病英年早逝，年仅24岁。1187年9月2日，萨拉丁攻占耶路撒冷，守军投降，选在登霄节这一天入城，以纪念先知穆罕默德的夜行登霄。
据《圣经》记载，在犹太人入住耶路撒冷之前，曾有许多民族在这里混居。当以色列人进入迦南，犹大支派征服了耶城，便雅悯支派占领该城，与住在耶城附近的一支迦南部落(被称为耶布斯人)和平共存。
公元前1000年，大卫王率领以色列人征服了耶城，向南扩建城市并定都于此，更改城市名称为Yelushalayim(耶路撒冷)。他把约柜迁到此地并为之建立至圣所，还想进一步建造圣殿时，被耶和华的先知拿单劝阻。
1099年，第一次十字军战争夺占耶路撒冷圣城夺回圣墓，是200年间十字军东征中唯一的胜利，在当时的西方基督教世界引发了空前轰动，受到了整个基督教世界如神迹般的累世传诵，众多随军教士及后世的教会编年史家都记述此役赞美基督。
同时这场战争如一石激起千层浪，影响了后世的整个东地中海格局。拜占庭、亚美尼亚、突厥人、阿拉伯人，各种宗教背景、不同出身的史学家都著书立说详述此事以资借鉴反思。第一次十字军战争无疑是中世纪记载最为丰富、史料最为充分的历史事件之一。
圣殿时期
《圣经·列王纪.上》第五章至第六章记载，大卫王公元前970年结束统治，其子所罗门继承王位，从即位后的第四年开始，花费七年时间在耶路撒冷城内最后确知的约柜所在，采用来自推罗(Tyle)的岩石及香柏建造建造了第一座圣殿，并取代其他祭坛成为犹太人最重要的礼拜地，直到"第一圣殿期"末期都是全国唯一的宗教场所和朝圣中心。在犹太人历史中一直具有重要地位(在一定程度上对基督教也很重要)。
从所罗门去世(公元前930年)到所罗门圣殿被毁（公元前586年）约400年，史称“第一圣殿时期”。当时，北方10个支派分裂出去成立了以色列王国(首都撒马利亚)。南方犹大王国由大卫和所罗门后裔继续统治300多年，仍以耶路撒冷为都城。公元前722年，亚述征服了以色列王国。
公元前597年，巴比伦国王尼布甲尼撒二世攻破耶路撒冷，年轻的国王约雅斤和大多数贵族被掳到巴比伦囚禁(史称巴比伦之囚)。西底家领导犹太人反抗巴比伦占领。公元前586年，尼布甲尼撒二世占领并摧毁耶城，拆毁城墙、焚烧圣殿，掠走圣殿中的金银器皿。
公元前538年， 波斯帝国居鲁士大帝灭亡巴比伦，允许犹太人回故地重建耶路撒冷。公元前516年(大流士一世在位第六年)，即第一圣殿被毁70年后，圣殿重建完工。尼希米又重新修建耶路撒冷城墙，恢复了城市繁荣。此后的600年间，犹太之地先后是波斯、希腊和罗马的一个省份——犹太省，耶城为首府。罗马统治前期委任大希律王代理统治，大希律王扩建了圣殿。
公元6年，犹太地直属罗马统治。从70年开始，犹太人不断举行起义反抗罗马统治。罗马大军攻占耶城拆毁圣殿(只剩下部分墙基，即西墙)。最后在135年，罗马皇帝哈德良派大军夺取耶城。作为惩罚措施，下令在希伯来历埃波月九日——耶城遭巴比伦和罗马两次攻陷的周年纪念日(恰巧是同一日)——彻底铲平耶城。在原城址新建罗马城市爱利亚-加比多力那(Aelia Kapitolina)，圣殿山上另建罗马神庙，禁止犹太人在耶城居住，将所有犹太人赶出此地。
