วัดเขาศรีวิชัย หรือ วัดเขาหัวบน ตั้งอยู่หมู่ที่ 1 ตำบลศรีวิชัย บนเนินเขาเตี้ย ๆ เป็นแหล่งค้นพบหลักฐานทางโบราณคดี มีอายุราวศตวรรษที่ 13-16 มีสิ่งที่น่าสนใจคืออุโบสถเก่าแก่ตัวอุโบสถเป็นแบบก่ออิฐถือปูน ใช้ผนังรับน้ำหนักแทนเสา หลังคาเป็นโครงไม้มุงกระเบื้อง ด้านหน้ามีพระพุทธรูปปางป่าเลไลย์ช่องประตูหน้าต่างต่าง ๆ ประดับด้วยเครืองถ้วยชามกระเบื้อง ภายในประดิษฐานพระพุทธรูปปางมารวิชัยลงรักปิดทองจำนวน 11 องค์ เป็นแหล่งพบหลักฐานทางโบราณคดีหลายอย่าง เช่น เทวรูปพระนารายณ์อยู่บนยอดเขาบริเวณซากโบราณสถาน เมื่อ พ.ศ. 2518 มีการตัดถนนผ่านหน้าวัด ได้ขุดพบพระพิมพ์ศิลปะสมัยศรีวิชัย นอกจากนี้ ยังขุดพบลูกปัดหลายชนิดซึ่งสันนิษฐานว่ามีการติดต่อค้าขายกันมาตั้งแต่สมัยโบราณ