历史上犹太人和阿拉伯人都是生活在巴勒斯坦及附近地区（古称“迦南”地区）的闪米特人，甚至他们都认可共同的祖先亚伯拉罕（阿拉伯人称之为“易卜拉欣”）。据称亚伯拉罕嫡孙雅阁被耶和华赐别名“以色列”，其后代繁衍为犹太人；亚伯拉罕庶子（阿拉伯人不认为是庶子）以实玛利后代繁衍为阿拉伯人。犹太人和阿拉伯人在不同区域生活发展形成不同的部落，犹太人部落半耕半牧几次进出迦南，阿拉伯人部落则在阿拉伯半岛沙漠地区游牧。
雅阁幼子约瑟率部避祸埃及几百年后，后代摩西率部族出埃及，于西奈半岛声称半夜代表犹太人和耶和华约定了“摩西十诫”，创立犹太教，称犹太人为耶和华的选民。摩西十诫类似于中国的“约法三章”，后来成为西方世界道德规则和契约观念的来源。
后来犹太人头领约书亚、所罗门等人率部打回迦南地区建立古以色列和犹大王国，在耶路撒冷建立第一神殿。短暂辉煌后，以色列国和犹大王国分别灭于亚述和后巴比伦王国。后来波斯帝国灭后巴比伦王国，犹太人回到迦南地区。
罗马统治时代的西元元年，犹太少女玛丽亚借鉴希腊神话，声称童贞受孕生神子耶稣。耶稣长大后创立了新的犹太教派，引起其他犹太祭司的不满。西元33年，耶稣被逆徒犹大和其他犹太祭司告发后，被罗马地方官钉死于十字架。耶稣其他十一个门徒到罗马帝国各地去传教，先后有十个被处死殉教。大弟子在罗马建立教会，后被处死于罗马梵蒂冈。基督教开始在罗马下层民众及日耳曼蛮族之中快速流行。罗马当局开始镇压，后无奈接受基督教为国教。其间，犹太人叛乱被罗马镇压后大部分犹太人离散到世界各地，少部分留居巴勒斯坦地区。
多年后，阿拉伯知者穆罕默德借鉴基督教创立伊斯兰教，随后在哈里发和帝国时代进行了大征服，占领了了耶路撒冷，该地区主要居民成了阿拉伯人，但仍有少量犹太人世居。二战后犹太复国主义者在英法的支持下大量移居当时是英国殖民地耶路撒冷地区建立现代以色列国。随后以色列和阿拉伯诸国发生过多次激烈的中东战争，以色列取得了全胜。