山阳县人民检察院源于1952年10月成立的山阳县检察署，1954年12月改称山阳县人民检察院后沿用至今。1952年秋，山阳县检察署成立，1954年底改为山阳县人民检察院，独立行使法律监督职权。文化大革命中，公检法机构解体，检察业务活动中断十年之久，1978年恢复重建山阳县人民检察院。山阳县人民检察院恢复重建后，经过历任检察长和全体干警的共同努力，山阳检察事业全面发展，先后被最高人民检察院授予“全国先进基层检察院”，被省委政法委授予“人民满意政法单位”，被省院授予“ bet36体育在线先进基层检察院”、记集体二等功一次，被 bet36体育在线市委、市政府授予“人民群众满意的政法单位”、“ 文明单位”、“文明单位标兵”，记集体三等功一次，连续五年被山阳县委、县政府评为年度目标责任考核“优秀单位”，并被确定为“好班子”建设示范单位。先后三次被县委、政府授予“人民满意的政法单位”，被县委、政府授予全县“七五”普法依法治县工作先进集体。

 山阳县人民检察院原址位于山阳县北新街121号，2015年10月搬迁至山阳县西河新区。共有中央政法专项编制41个，实有占编人员37人，班子成员7人（检察长1人，副检察长2人，纪检组长1人，其他3人）。2019年底内设机构改革后，现有内设机构6个，分别为办公室、第一检察部、第二检察部、第三检察部、政治部、司法警察大队。另外，按照县委基层组织设置有关规定，设置有机关党支部1个。