ประวัติความเป็นมาของเรือนจำจังหวัดเพชรบูรณ์ จัดสร้างขึ้นเมื่อใดไม่ปรากฏหลักฐาน แน่ชัด แต่ทราบประวัติเล็กน้อยจากคำให้การของขุนราชอุทิศ ซึ่งเป็นพระธรรมรงค์คนที่ 5 พอจับใจความได้ว่า เมื่อ พ.ศ. 2449 คุกเดิมนั้นตั้งอยู่ฝั่งตรงข้ามกับวัดไตรภูมิ(ปัจจุบันคือสำนักงานประปาและการไฟฟ้าส่วนภูมิภาคจังหวัดเพชรบูรณ์)
ปี พ.ศ. 2472 ได้ย้ายเรือนจำมาสร้าง ณ ที่ทำการแห่งใหม่ ตั้งอยู่หมู่ที่
2 ตำบล สะเดียง อำเภอเมือง จังหวัดเพชรบูรณ์ (ปัจจุบันคือสำนักงานเทศบาลเมืองเพชรบูรณ์) มีการก่อสร้างอาคารที่ทำการ1 หลังเป็นไม้ชั้นเดียว หลังคาสังกะสี ตัวอาคารแบ่งเป็นสองส่วน คือ ส่วนด้านซ้ายของตัวอาคารเป็นที่ทำการ และส่วนด้านขวาของอาคารเป็นแดนหญิง มีเรือนนอนผู้ต้องขังชายสร้างด้วยไม้ จำนวน 1 หลัง มีโรงเลี้ยงจำนวน 1 หลัง กำแพง ชั้นที่ 1 เป็นกำแพงสังกะสี และชั้นนอก มีรั้วไม้ล้อมรอบอีกชั้นหนึ่ง
ต่อมาประมาณปี พ.ศ. 2479 ได้ย้ายเรือนจำใหม่อีกครั้ง มาตั้ง ณ บ้านคลองศาลา ตำบลในเมือง อำเภอเมือง จังหวัดเพชรบูรณ์ (ที่ทำการปัจจุบัน) มีการดำเนินการก่อสร้างอาคารที่ทำการ 1 หลัง เรือนนอนผู้ต้องขังทำจากไม้ ชั้นเดียวใต้ถุนโล่ง อาคารที่ทำการฝ่ายควบคุมชั้นเดียว และกำแพงทำด้วยสังกะสี ด้านในมีร่องน้ำล้อมรอบ ชั้นที่ 1 มีรั้วลวดหนามรอบรอบชั้นที่ 2 และมีต้นตะบองเพชรล้อมรอบชั้นที่ 3 และมีการดำเนินการสร้างบ้านพักเจ้าหน้าที่ ประกอบด้วย บ้านพักผู้บัญชาการเรือนจำจำนวน 1 หลัง บ้านพักเจ้าหน้าที่ จำนวน 10 หลัง และห้องแถว 5 ห้องจำนวน 1 หลัง ดำเนินการก่อสร้างแล้วเสร็จในปี พ.ศ. 2502 ตั้งอยู่มาถึงปัจจุบัน
เรือนจำจังหวัดเพชรบูรณ์เป็นหน่วยงานบริหารราชการส่วนภูมิภาค สังกัดกรมราชทัณฑ์ กระทรวงยุติธรรม ตั้งอยู่เลขที่ 231 ถนนพระพุทธบาท ตำบลในเมือง อำเภอเมือง จังหวัดเพชรบูรณ์ ห่างจากศาลากลางและสถานีตำรวจภูธรอำเมืองเพชรบูรณ์ประมาณ 2 กิโลเมตร ห่างจากศาลจังหวัดเพชรบูรณ์ ประมาณ 3 กิโลเมตร มีเนื้อที่รับผิดชอบ 17 ไร่ 2 งาน 41 ตารางวา แบ่งเป็นเนื้อที่ภายใน 7 ไร่ 2 งาน พื้นที่ภายนอกเรือนจำเป็นบ้านพักเจ้าหน้าที่ 10 ไร่ 41 ตารางวา
นอกจากนี้ยังมีหน่วยงานในความรับผิดชอบอีกแห่งหนึ่งคือ เรือนจำชั่วคราวแคน้อย ตั้งอยู่ถนนสระบุรี-หล่มสัก ตำบลสะเดียง อำเภอเมือง จังหวัดเพชรบูรณ์ มีเนื้อที่ 237 ไร่ ห่างจากเรือนจำจังหวัดเพชรบูรณ์ไปทางอำเภอหล่มสักประมาณ 4 กิโลเมตร