ศาลเจ้าพ่อศรีนครเตา หรือเมืองรัตนบุรี เดิมเป็นหมู่บ้าน ชื่อว่า “บ้านบุ่งหวาย หรือ บ้านหวาย” เนื่องจากบริเวณนี้มีหวายมากจนชาวบ้านในแถบนั้น ได้นำหวายไปทำประโยชน์ในครัวเรือน คำว่า บุ่ง เป็นภาษาพื้นบ้านในครั้งนั้น หมายถึงที่ๆ มีน้ำซึมออกมาตลอดเวลา อยู่ทางทิศเหนือของเมืองในปัจจุบัน ชาวบ้านได้ใช้ทำนา เมื่อมองเห็นเป็นทุ่งอันกว้างใหญ่ เรียกว่า บุ่ง มีสัตว์หลายชนิดอาศัยอยู่ในสมัยนั้น ได้แก่ เต่า เดินไปไหนมาไหน มักพบเต่าคลานอยู่ทั่วไป ก่อนตั้งหลักปักเมืองขึ้นมา พื้นที่ของเมืองเต่าเป็นที่อยู่ของพวกขอมสมัยเรืองอำนาจ เพราะปรากฏหลักฐานต่างๆ