สำนักงานปลัดกระทรวงมหาดไทย เริ่มมีการก่อตั้งขึ้นพร้อมกันกับการก่อตั้งกระทรวงมหาดไทย เมื่อวันที่ 1 เมษายน 2435 มีบทบาทสำคัญในการบริหารราชการของกระทรวง สนับสนุนการดำเนินงานด้านการปกครองและการพัฒนาท้องถิ่นตลอดมา

ต่อมาในปี พ.ศ. 2476 มีพระราชบัญญัติจัดตั้งกระทรวง ทบวง กรม พ.ศ. 2476 โดยแบ่งส่วนราชการกระทรวงมหาดไทยออกเป็น 10 ส่วนราชการ ส่วนของสำนักงานปลัดกระทรวงฯ ในขณะนั้นใช้ชื่อว่า "กรมปลัด"

ต่อมามีการปรับปรุงกระทรวง ทบวง กรม จึงเปลี่ยนชื่อเป็น "สำนักงานปลัดกระทรวงมหาดไทย" ซึ่งเป็นชื่อที่ใช้มาจนถึงปัจจุบัน