博物馆分为地上和地下两部分。地上部分主要包括汉白玉制成的门阙、序幕大殿、图书资料室、陈列室、四角楼、望景亭等。
地下部分是博物馆的精华所在，实际上就是一处规模宏大的地下古墓群，共有历代典型古墓葬二十二座，上自西汉，下迄北宋，其中尤以一组壁画墓最为有名。洛阳的汉墓壁画历史悠久，目前共有10座古壁画墓可供参观，主要包括西汉“打鬼图”壁画墓、西汉贵族卜千秋壁画墓、东汉出行图壁画墓等。卜千秋墓的壁画内容为卜千秋夫妇乘蛇和三头凰，在西王母的信使持节仙翁、仙女和虺龙、枭羊、朱雀、白虎等神兽护卫下在空中飞升的情景。画中人物鸟兽色彩绚丽，线条流畅，具有很高的艺术价值。
馆内展出有大量的生活器具、装饰品等随葬品，如西汉、魏晋时期的陶俑，唐代的唐三彩等。