Il a été créé au 18ème siècle dans les champs « In der Geisenheck » et « Am Heiligkreuz ». La porte du cimetière ainsi que des parties de l'enceinte sont restées. On trouve plus de 60 pierres tombales, dont trois datent du 18ème siècle, les autres étant de la période du 19ème siècle jusqu'en 1944. Depuis la domination française de 1794, les Juifs de Bacharach ont également été enterrés dans le cimetière d'Oberheimbach. Auparavant, la population juive de Bacharach formait une confrérie funéraire avec Kaub et utilisait donc également le cimetière juif de Kaub. Une petite communauté juive s'est formée à Oberheimbach au 18ème siècle, atteignant 30 membres d'ici 1895. Les institutions religieuses comprenaient une synagogue, une école religieuse, peut-être une mikvé et le cimetière. Lorsque la communauté juive est devenue trop petite vers 1920, les Juifs restants ont rejoint la communauté de Bacharach. Des panneaux d'information des amis du patrimoine à Oberheimbach donnent des informations sur le cimetière juif et l'accès depuis la chapelle de la croix.