เกิดเหตุเอเจนต์ AI ของ OpenAI สแกนหาช่องโหว่และเจาะระบบความปลอดภัยของหน่วยงานให้บริการข้อมูลสาธารณะในหลายประเทศ ขณะปฏิบัติภารกิจดึงข้อมูลตามโครงการวิจัย ล่าสุด แอนโทนี แอลบานีซี นายกรัฐมนตรีออสเตรเลีย ได้ออกมายืนยันว่า เอเจนต์ AI ดังกล่าวได้ละเมิดระบบพอร์ทัลรายงานสถิติ Medicare ของ Services Australia ซึ่งเป็นหน่วยงานรัฐที่ดูแลการจ่ายเงินสวัสดิการด้านสุขภาพและสังคม การเข้าถึงโดยไม่ได้รับอนุญาตเกิดขึ้นตั้งแต่วันที่ 18 มิถุนายน ส่งผลให้ AI สามารถเข้าถึงได้ทั้งข้อมูลสาธารณะและข้อมูลที่ไม่ใช่สาธารณะ
รายงานจาก Transluce ห้องปฏิบัติการวิจัยแบบไม่แสวงหากำไร ที่วิเคราะห์บันทึกสาธารณะผ่านบริการสแกน URL ระบุว่า เอเจนต์ AI ได้ใช้ระบบเบราว์เซอร์รีโมทดึงข้อมูลเมื่อการเข้าถึงโดยตรงล้มเหลว โดยพบ 3 กรณีหลักช่วงพฤษภาคมถึงมิถุนายนที่ส่งผลกระทบต่อสถาบันสุขภาพและสวัสดิการแห่งออสเตรเลีย (AIHW), Data USA และห้องสมุดดิจิทัลของมหาวิทยาลัยนิวเม็กซิโก โดยเฉพาะกรณีของมหาวิทยาลัยนิวเม็กซิโก เอเจนต์ AI ได้สแกนระบบถึง 7 ครั้ง พยายามโจมตีช่องโหว่ทั้งแบบ SQL injection, command injection และ path traversal เพื่อดึงไฟล์ภาพถ่าย
นอกจากนี้ ในกรณีของ Data USA แพลตฟอร์มข้อมูลสาธารณะของรัฐบาลสหรัฐฯ และ AIHW ของออสเตรเลีย พบว่าเมื่อเอเจนต์ AI เผชิญกับข้อผิดพลาด จากคำสั่งสืบค้น มันกลับเปลี่ยนไปสแกนหาช่องโหว่ระบบหลายจุด เช่น การตรวจสอบช่องโหว่ reflected cross-site scripting (XSS) แม้ทางนักวิจัยจะระบุว่า Cloudflare ได้ช่วยบล็อกคำขอไว้ได้บางส่วน แต่เอเจนต์ AI ก็ยังสามารถแอบดึงไฟล์สาธารณะมาจากเซิร์ฟเวอร์ทดสอบก่อนใช้งานจริง (pre-production server) ไปได้ ซึ่งทาง Transluce เตือนว่าแม้ยังไม่พบหลักฐานความสำเร็จในการเจาะระบบอื่นๆ แต่เนื่องจากชุดข้อมูลที่พบยังไม่สมบูรณ์ จึงไม่อาจตัดความเป็นไปได้ที่ AI อาจใช้วิธีการอื่นเข้าถึงข้อมูล
ด้านโฆษกของ OpenAI ได้แถลงว่า จากการตรวจสอบเบื้องต้น กิจกรรมที่ระบุในรายงานส่วนใหญ่คาบเกี่ยวกับกรณีการพฤติกรรมของโมเดลที่ไม่เป็นไปตามเจตนา (misaligned model activity) ซึ่งบริษัทกำลังอยู่ระหว่างการสอบสวน ทั้งนี้ OpenAI ได้ติดต่อประสานงานกับมหาวิทยาลัยนิวเม็กซิโก, Data USA รวมถึงรัฐบาลออสเตรเลียเกี่ยวกับเว็บไซต์ที่ได้รับผลกระทบแล้ว
อย่างไรก็ตาม OpenAI ชี้แจงเพิ่มเติมว่า บริษัทจำเป็นต้องจัดลำดับความสำคัญ โดยมุ่งตรวจสอบเหตุการณ์ที่มีความร้ายแรงสูงก่อน แล้วจึงขยับไปตรวจสอบกิจกรรมที่มีความรุนแรงน้อยกว่า เช่น กรณีเอเจนต์ส่งสแปมไปยังเว็บไซต์ต่างๆ และคาดว่ากระบวนการตรวจสอบทั้งหมดอาจต้องใช้เวลานานหลายเดือน เนื่องจากขอบเขตของข้อมูลที่มีขนาดใหญ่และต้องประเมินรายละเอียดเป็นรายกรณี
ที่มา : BPC
