小陇山林区院前身为白水江林区人民检察院，1981年10月24日，根据《林业部 司法部公安部 最高人民检察院<关于在重点林区建立与健全林业公安、检察、法院组织机构的通知>》（高检人字[80]69号）和甘肃省人民政府《关于在重点林区建立健全公检法机构的通知》（甘政发[1981]131号）精神，经甘肃省第五届人大常委会第九次会议，批准设立白龙江林区两级检察机关。

    1981年7月，依照甘肃省白龙江林业管理局《关于在白龙江林区组建公检法机构的实施意见》（白林管党字［1981］146号）文件，成立林区公检法机构筹备领导小组，开始筹备建立林区两级检察机构。甘肃省人民检察院白龙江林区分院下辖四个基层检察院，分别是“迭部林区人民检察院”、“洮河林区人民检察院”、“舟曲林区人民检察院”、“白水江林区人民检察院”。分院行使地市级人民检察院职权，基层检察院行使县一级人民检察院职权，两级检察机关是甘肃省人民检察院的派出机关。

    当时，由于白水江林区组建公检法机构的条件还不够成熟，直至 1992年9月，省检察院、省高级法院、省公安厅、省林业厅根据省政府“关于在重点林区建立健全公检法机构的通知”精神，批准由白龙江林业管理局白水江林业局和甘肃白水江国家级自然保护区管理局两家联合组建了白水江林区公检法机构（甘林人字[1992]410号）。1993年3月开始组建，6月20日白水江林区人民检察院正式启印办公。

    白水江林区人民检察院编制为13人，内设三科一室，即刑事检察科、法纪检察科、经济检察科和办公室。检察院成立时，共有7人，其中，白水江林业局抽调了5人，保护局抽调了2人。自1993年以来，在上级检察机关、林业局党委的正确领导和林业局行政的大力扶持下，在历任检察长的带领下，经过全院干警的共同努力下，白水江林区人民检察院从无到有，由小到大，经历了艰难曲折的发展历程。

    自1993年白水江院成立以来，办理了大量的盗伐林木、非法捕杀珍贵濒危野生动物、非法运输、盗窃、故意伤害、贪污贿赂等犯罪案件，充分发挥了林区检察机关的检察职能，有效地维护了白水江林区社会的稳定，有效地保护了林区职工群众的合法权益，有效地保护了资源安全，有效地促进了林区的经济发展。

   从2011年1月起，按照甘肃省人民政府办公厅《关于白龙江林业管理局分离企业办社会职能有关问题的会议纪要》（甘政办纪〔2010〕13号）、甘肃省机构编制委员会《关于全省林业法院、检察院有关机构编制事项的通知》（甘机编发〔2010〕77号）及中共甘肃省委组织部、省高级人民法院、省人民检察院、省财政厅、省林业厅《关于印发<全省林业法院、检察院体制改革实施方案>的通知》（甘组通字〔2011〕27号）精神，林区两级检察机关整体转换体制，从原所属林业部门或企业中分离出来，统一纳入国家司法管理体系，实行人、财、物由省检察院垂直管理的新体制，检察干警的身份从企业编制转换为政法专项编制，从企业员工转为国家公务员，经费保障纳入省检察院的部门预算，由省财政直接保障。

    2017年10月，根据《中共甘肃省委办公厅甘肃省人民政府办公厅关于印发<甘肃矿区人民法院司法改革方案>和<甘肃林区法院检察院司法改革方案>的通知》（甘办发〔2017〕55号）的部署要求，小陇山院由陇南市文县迁址至天水市麦积区，管辖甘肃省小陇山林业实验局、小陇山国家级自然保护区管理局和兴隆山国家级自然保护区管理局辖区内的各类案件。辖区调整后，我院管辖地域地跨4市9县，管辖范围总面积约为890218公顷，较原管辖面积增加了90%,林区、林缘区共有90余个乡镇，人口约130余万人；管辖林场数量从3个增加为26个，还有两个国家级自然保护区。

    2018年11月2日，根据最高人民检察院和省编办关于调整和变更林区部分基层检察院管理体制和单位名称的批复文件，小陇山林区人民检察院正式挂牌成立。

      目前，小陇山林区人民检察院内设综合行政办公室、第一检察部、第二检察部3个机构，现有干警20人，其中副处级干部1人，正科级干部4人，副科级干部1人，科员级3人，书记员10人，根据国家监察体制改革，转隶2人。