东汉年间，为纪念西汉邳离侯路博德及东汉新息候马援二位伏波将军，在雷州县城西南创建专祀两位将军的祠宇伏波祠。
路博德于汉武帝元鼎六年（公元前年）平南越，分其地以置九郡，后略地至此设徐闻县属合浦郡，驻军县治（今雷州城）。安营武乐水与将军圩。雷州城作为徐闻县治也属合浦郡治。
东汉建武十八年（公元42年）,马援奉光武帝刘秀之命南定交趾，沿海而进，驻军城南，战马刨地得泉收复合浦郡，铜柱封疆德被岭海。雷民敬其忠烈立祠奉祀。据古县志记载，北宋之时庙乃存。祠傍山构筑，坐北朝南，是雷州今存祠庙中年代最古者，历代皆有修葺，年大重修。
年6月21日，该祠被定为县级文物保护单位；年12月，被湛江人民政府评为文物保护单位；年10月，伏波祠碑刻被广东省人民政府评为文物保护单位。