มรดกอันล้ำค่าของชาวอุบลราชธานีอย่างหนึ่ง ได้แก่ เครื่องยศเจ้าเมืองอุบลราชธานี ซึ่งได้รับการดูแลรักษาตกทอดมาหลายชั่วอายุคน จนมาถึงรุ่นคุณตาบำเพ็ญ ณ อุบล ทายาทผู้สืบเชื้อสายมาจากเจ้าคำผง ผู้สร้างเมืองอุบลราชธานี และเป็นผู้ครองเมืองอุบลราชธานีคนแรก

คำว่า เครื่องยศ หมายถึงเครื่องหมายที่แสดงเกียรติยศ และบำเหน็จความชอบที่กษัตริย์สมัยโบราณ พระราชทานแก่พระบรมวงศานุวงศ์ ขุนนาง ข้าราชการ แสดงให้เห็นถึงความสำคัญของตำแหน่งหน้าที่ที่ดำรงอยู่ และให้ผู้ที่ได้รับพระราชทานสามารถนำไปใช้ในพระราชพิธีที่สำคัญ

เมื่อพระบาทสมเด็จพระพุทธยอดฟ้าจุฬาโลก โปรดเกล้าฯ เสริมนามเมืองอุบลขึ้นเป็น "เมืองอุบลราชธานีศรีวะนาไลประเทษราช" ขึ้นตรงต่อกรุงเทพ และสถาปนาให้พระประทุมราชวงศา เป็น "พระประทุมวรราชสุริยวงษ์" เมื่อวันจันทร์ แรม 13 ค่ำ เดือน 8 จุลศักราช 1154 ตรงกับ พ.ศ.2335 โดยเจ้าเมืองอุบลราชธานีในอดีต ที่พระมหากษัตริย์แห่งกรุงรัตนโกสินทร์ทรงพระกรุณาโปรดเกล้าฯ แต่งตั้งมีจำนวนทั้งสิ้น 4 ท่าน ดังนี้

1. พระประทุมวรราชสุริยวงษ์ (พ.ศ.2335-2338) นามเดิม คำผง บุตรเจ้าพระตา เป็นบุคคลสำคัญ ในการสร้างบ้าน แปงเมืองอุบล โปรดให้สร้างคูประตูเมือง หอโฮงเจ้านายต่างๆ สร้างวัดหลวง และเสนาสนะ อาทิ สิม อาฮาม หอระฆัง พระพุทธรูป สิ่งก่อสร้าง ล้วนเลียนแบบ ศิลปแบบหลวงพระบาง
2. พระพรหมวรราชสุริยวงศ์ (พ.ศ.2338-2388) นามเดิม พรหม น้องชายพระประทุม(คำผง) เป็นบุตรชาย คนเล็กของ เจ้าพระตา เป็นผู้ก่อสร้างวัดป่าหลวง (วัดป่าหลวงมณีโชติ) นำไพร่พลผู้ศรัทธาสร้างพระพุทธรูปองค์ใหญ่ ก่ออิฐถือปูน เป็นที่เคารพสักการะของชาวอุบลฯ มีชื่อว่า พระเจ้าใหญ่อินทร์แปลง ปัจจุบัน เป็นพระประธานในพระวิหารวัดมหาวนาราม
3. พระพรหมราชวงศา (พ.ศ.2388-2409) นามเดิม กุทอง สุวรรณกูฏ บุตรพระพรหม(ทิดพรหม) ในสมัยของท่าน ธรรมยุติกนิกาย แพร่หลายในเมืองอุบลฯ เพื่อสนองพระราชประสงค์ของ พระบาทสมเด็จพระจอมเกล้าเจ้าอยู่หัว จึงโปรดให้สร้างวัดสุปัฏนาราม และบรรดา อุปฮาด ราชวงศ์ ราชบุตร ร่วมกัน สร้างวัดศรีทอง(ศรีอุบลรัตนาราม) วัดสุทัศน์ ซึ่งเหตุการณ์สำคัญในสมัยนี้คือการเข้าร่วมสงคราม ขับไล่ญวน
4. เจ้าพรหมเทวานุเคราะห์วงศ์ (พ.ศ.2409-2425) เจ้าพรหมเทวา(เจ้าหน่อคำ) เป็นพี่ชายเจ้าจอมมารดา ด้วงคำ ในรัชกาลที่ 4 เจ้าราชวงศ์จำปาศักดิ์ บุตรเจ้าเสือ หลานเจ้าอนุวงศ์ ในสมัยของท่านได้สร้างวัดไชยมงคล ซึ่งเป็นวัดธรรมยุตที่สี่ ในจังหวัดอุบลราชธานี

การแต่งตั้งเจ้าเมืองสมัยโบราณ พบหลักฐาน เอกสารการแต่งตั้งเจ้าเมือง องค์ที่ 3 คือ พระพรหมราชวงศา (กุทอง) มีพระบรมราชโองการ ให้เจ้าเมืองปกครองราษฎร ด้วยความร่มเย็นเป็นสุข ดังความว่า "...ให้โอบอ้อมอารีต่ออาณาประชาราษฎร์ อย่าเบียดเบียน ข่มเหงไพร่บ้านพลเมือง ปฏิสังขรณ์วัดวาอาราม ทำนุบำรุงพระสงฆ์ สามเณรให้ปฏิบัติเล่าเรืยนคันถธุระ วิปัสสนาธุระ กำชับ กำชาไพร่บ้านพลเมือง อย่าให้สูบฝิ่น ซื้อฝิ่น กินฝิ่น ให้กระทำพิธีถือน้ำพิพัฒน์สัตยาปีละ 2 ครั้ง... และกล่าวถึงเครื่องยศ ที่ทางกรุงเทพฯ พระราชทานแก่ เจ้าเมืองอุบลฯ ประกอบด้วย

- พานถมเครื่องในทองคำ 1 สำรับ
- คนโททองคำ 1 ใบ
- กระโถนถม 1 ใบ
- ลูกประคำทองคำ 1 สาย
- กระบี่บั้งถม 1 อัน
- เสื้อหมวกตุ้มปี 1 ชุด
- สัปทนปัสตู 1 ชุด
- ปืนคาบศิลาคอลาย 1 กระบอก
- เสื้อเข้มขาบริ้วเลื้อย 1 ตัว
- ส่านไทยปักทอง 1 ชุด
- ผ้าปู 1 ผืน

สำหรับขบวนแห่เครื่องยศเจ้าเมืองแบบโบราณในจังหวัดอุบลราชธานีนั้น นายบำเพ็ญ ณ อุบล ปราชญ์อีสาน ผู้สืบเชื้อสายมาจากเจ้าผู้ครองเมืองอุบลราชธานี เป็นผู้ริเริ่ม โดยจัดเข้าขบวนแห่ในงานประเพณีแห่เทียนเข้าพรรษาอุบลราชธานี และในพิธีบวงสรวงและสดุดีวีรกรรมพระประทุมวรราชสุริยวงษ์ (เจ้าคำผง) ซึ่งเครื่องยศเจ้าเมืองที่นำมาเข้าร่วมขบวนแห่นั้น ส่วนใหญ่เป็นของมรดกตกทอดมาจากตระกูล ณ อุบล นั่นเอง เช่น

เป็นมาลาที่สืบมาจากเจ้าปางคำ (สมัยเชียงรุ้ง) สวมใส่ในโอกาสออกศึก เป็นเครื่องประดับยศที่สืบทอดมาจากเจ้าปางคำ มาู่เจ้าพระตา, เจ้าคำผง, ยายอบ ณ อุบล และมาถึงนายบำเพ็ญ ณ อุบล เป็นผู้รับมรดกตกทอด

เป็นมาลาที่สร้างในสมัยพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว (รัชกาลที่ 5) ใช้ประกอบเครื่องยศเจ้าเมือง มีตราแผ่นดินประดับพระมาลา ใช้สวมในโอกาสงานพระราชพิธี ในชุดผ้าม่วง และสวมเสื้อราชปะแตน โดยมาลาที่แสดงนี้ เจ้าผู้ครองนครอุบลฯ ได้รับพระราชทานจากรัชกาลที่ 5

เมื่อมีการสถาปนาเมือง จะมีเครื่องราชูปโภคประกอบยศเจ้าเมือง โดยเวลาออกว่าราชการ จะตั้งไว้บนโต๊ะด้านข้างที่นั่ง  ซึ่งคนโทที่แสดงนี้อายุกว่า 300 ปี เป็นมรดกตกทอดมาจากอุปราชโท (ต้นตระกูล ณ อุบล) อุปราชองค์ที่ 3 สมัยพระพรหมราชวงศา เป็นเจ้าเมืองอุบลราชธานี

กาน้ำที่แสดง เป็นกาน้ำประกอบยศ ได้รับพระราชทานในสมัยรัชกาลที่ 1 อายุกว่า 100 ปี ลวดลายเป็นดอกพุดตานในป่าหิมพานต์ ประกอบด้วยต้นไม้และสัตว์ป่า ได้แก่ กระรอกและนก

นอกจากนี้ ยังมีเครื่องศาสตราวุธต่างๆ เช่น ดาบเงิน-ทอง ใช้ในโอกาสออกศึกและงานราชพิธี ดาบทองเรียกว่า พระขันธ์ชัยสัตนาค เป็นเครื่องยศ อายุประมาณ 200 ปี เป็นมรดกตกทอดจากเจ้าปางคำ มาสู่เจ้าพระตาและเจ้าคำผง  ส่วนดาบเงิน เรียกว่า พระขันธ์ชัยศรี เป็นมรดกตกทอดมาจาก ท้าวสุวรรณศรี (หนู) กับนางสุ่ย (ลูกเจ้าคำผง) มายังญาแม่แพง, ญาพ่อจอม และนายบำเพ็ญ ณ อุบล

ทุกวันที่ 10 พฤศจิกายน ของทุกปี จังหวัดอุบลราชธานีจัดให้มีพิธีบวงสรวงและสดุดีวีรกรรม พระประทุมวรราชสุริยวงษ์ (เจ้าคำผง) ผู้ครองเมืองอุบลราชธานีคนแรก โดยจะมีขบวนอัญเชิญเครื่องยศเจ้าเมืองโบราณ จากวัดหลวงมายังบริเวณอนุสาวรีย์พระประทุมวรราชสุริยวงษ์ ทุ่งศรีเมือง จากนั้นเป็นพิธีวางขันหมากเบ็งและรำถวายมือ ขอเชิญชาวอุบลฯ ทุกท่านร่วมงานตั้งแต่เวลา 06.30 น. เป็นต้นไป