ลักษณะสถาปัตยกรรมกู่โพนวิท ส่วนฐานปราสาทก่อด้วยศิลาแลง เป็นฐานบัวยกสูงจากพื้นดินประมาณ ๒ เมตร ในผังสี่เหลี่ยมจัตุรัส ด้านบนเป็นทรายอัดแน่นก่อนปูศิลาแลงไม่มีบันไดทางขึ้น ตอนกลางและบริเวณมุมทั้ง ๔ ปรากฏฐานขนาดเล็กในผังสี่เหลี่ยมจัตุรัสมีหลุมเสาไม้ที่มุมฐานทั้ง ๔ ส่วนฐานอาคารที่สันนิษฐานว่าเป็นบรรณาลัยที่ก่อด้วยศิลาแลงในแผงรูปสี่เหลี่ยมผืนผ้า การขุดค้นทางโบราณคดีในพื้นที่พบแท่นฐานโยนีที่มีช่องเดือยรูป ๘ เหลี่ยม สำหรับใช้ประดิษฐ์ศิวลึงค์ และทวารบาลรูปมหากาลซึ่งมักพบในเทวสถานพระอิศวร ปะปนกับชิ้นส่วนประติมากรรมพระนารายณ์ที่ถูกทุบทำลายและกระจายทั่วพื้นที่ นำมาซึ่งข้อสันนิษฐานว่าเดิมกู่โพนวิทสร้างขึ้นเพื่อเป็นเทวาลัยของพระนารายณ์มาก่อนในระยะต้นพุทธศตวรรษที่ ๑๖ ภายหลังได้เปลี่ยนเป็นเทวาลัยของพระอิศวรในระยะปลายพุทธศตวรรษที่ ๑๖ ขณะนั้นคงมีการทุบทำลายประติมากรรมพระนารายณ์และนำศิวลึงค์มาประดิษฐานแทนที่