จังหวัดนครพนม เป็นจังหวัดเล็ก ๆ ริมฝั่งแม่น้ำโขง ในดินแดนที่ราบสูง อดีตเป็นศูนย์กลางของอาณาจักรศรีโคตรบูรณ์อันรุ่งเรือง แรกทีเดียวตัวเมืองตั้งอยู่ทางฝั่งซ้าย ของลำน้ำโขง (ฝั่งลาว) บริเวณทางใต้ปากเซบั้งไฟ ตรงข้ามกับอำเภอพระธาตุพนมในปัจจุบัน
ตามอุรังคนิทานหรือตำนานพระธาตุพนม (พิสดาร) ของพระธรรมราชานุวัตรอดีตเจ้าอาวาสวัดพระธาตุพนม ได้เรียบเรียงไว้ตอนหนึ่งว่า สมัยพุทธกาลพระพุทธเจ้าได้เสด็จมาโปรดสัตว์ที่แคว้นศรีโคตรบูรณ์ มีพุทธทำนายว่าเมื่อพระองค์ปรินิพพานไปแล้วเมืองศรีโคตรบูรณ์จักย้ายไปตั้งที่ “ป่าไม้รวก” มีนามว่า “เมืองมรุกขนคร” ซึ่งสันนิษฐานกันว่าหมายถึง เมืองที่อยู่ในดงไม้รวก ตามสภาพภูมิประเทศที่สร้างบ้านแปงเมืองนั้นเอง
ประมาณ พ.ศ.500 สมัยพญาสุมิตรธรรม ผู้ครองเมืองมรุกขนคร เป็นกษัตริย์ผู้มีจิตศัรทธาต่อพระพุทธศาสนาอย่างแรงกล้า มีการบูรณะพระธาตุพนมขึ้นเป็นครั้งแรก โดยก่อพระลานอูบมุง ชั้นที่ 1 และชั้นที่ 2 แล้วสร้างกำแพงล้อมรอบมีงานฉลองสมโภชอย่างมโหฬาร ซึ่งพระอุรังคธาตุได้แสดงปาฎิหารย์อัศจรรย์ยิ่ง ทำให้พญาสุมิตรธรรมบังเกิดความปิติโสมนัสมาก นอกจากถวายทรัพย์สินมีค่ามากมายเป็นพุทธบูชาแล้ว ยังมอบหมายให้หมู่บ้านทั้ง 7 แห่งในเขตแดนนั้น เป็นผู้ดูแลรักษาองค์พระธาตุ
หลังจากพญาสุมิตรธรรม มีผู้ครองนครต่อมาอีก 2 พระองค์ ก็เกิดเหตุอาเพศแก่อาณาจักรศรีโคตรบูรณ์ จนกลายเป็นเมืองร้าง กระทั่งถึง พ.ศ.1800 เจ้าศรีโคตรบูรณ์ได้สร้างเมืองมรุกขนครขึ้นใหม่ใต้เมืองท่าแขกบนฝั่งซ้ายแม่น้ำโขง
ใน พ.ศ. 2057 สมัยพระเจ้านครหลวงพิชิตทศพิศราชธานีศรีโคตรบูรณ์ได้เปลี่ยนชื่อเมืองใหม่กลายเป็น เมืองศรีโคตรบรูณ์ ตรงตามชื่ออาณาจักรเดิม ในสมัยนี้ยังมีการบูรณปฎิสังขรณ์พระธาตุพนมเรื่อยมาจนถึง พ.ศ.2280 พระธรรมราชาเจ้าเมืองศรีโคตรบูรณ์องค์สุดท้าย ได้ย้ายเมืองมาตั้งบนฝั่งขวา (ฝั่งไทย) เยื้องเมืองเก่าไปทางเหนือแล้วขนานนามเมืองใหม่ว่า เมืองนคร จากนั้นมีการโยกย้ายชุมชนเมืองอีกหลายครั้ง พ.ศ.2321 ในรัชกาลสมเด็จพระเจ้าตากสินมหาราช ได้มีการย้ายเมืองมาตั้งที่บ้านหนองจันทร์ ห่างขึ้นไปทางเหนือ 52 กิโลเมตร
ในปี พ.ศ. 2333 รัชสมัยของพระบาทสมเด็จพระพุทธยอดฟ้าจุฬาโลกมหาราช รัชกาลที่ 1 แห่งกรุงรัตนโกสินทร์ เมืองนครก็ได้ขอขึ้นตรงต่อกรุงเทพมหานคร โดยพระองค์ทรงพระราชทานนามใหม่ขึ้นว่า นครพนม ชื่อนครพนมนั้น มีข้อสันนิษฐานประการหนึ่งว่า เมืองนครเคยเป็นเมืองลูกหลวงมาก่อน และมีความสำคัญทางประวัติศาสตร์ จึงได้ใช้ชื่อว่า นคร ส่วนคำว่า พนม ก็มาจากพระธาตุพนม ปูชนียสถานที่อยู่คู่บ้านคู่เมืองมาช้านาน หรืออีกนัยหนึ่งคือ เดิมเมืองมรุกขนครตั้งอยู่ทางฝั่งซ้ายแม่น้ำโขงในบริเวณที่มีภูเขาสลับซับซ้อน จึงนำคำว่า พนม ซึ่งแปลว่าภูเขามาใช้ นครพนม จึงหมายความถึง เมืองแห่งภูเขา นั้นเอง