วิธีที่เราสร้างความปลอดภัยให้กับ Comet ตั้งแต่วันแรก

Comet ช่วยให้ผู้ช่วย AI มีความสามารถอันทรงพลังในการท่องเว็บไซต์ โต้ตอบกับเนื้อหา และทำงานที่ซับซ้อนแทนผู้ใช้ ความสามารถเหล่านี้ต้องการมาตรการป้องกันที่มีประสิทธิภาพไม่แพ้กัน ก่อนที่จะเปิดตัว Comet สู่สาธารณะ เราได้ว่าจ้าง Trail of Bits มาทำการทดสอบความเครียดกับระบบป้องกันของเราผ่านการตรวจสอบอย่างเป็นทางการ งานของพวกเขาช่วยให้เราตรวจพบช่องโหว่และเสริมความแข็งแกร่งให้กับมาตรการบรรเทาผลกระทบก่อนที่ผู้ใช้จะเริ่มพึ่งพา Comet ในงานที่มีความละเอียดอ่อน

การสร้างระบบป้องกันตั้งแต่เริ่มต้น

การโจมตีด้วยการแทรกคำสั่ง (Prompt Injection) มีการพัฒนาอยู่ตลอดเวลา และการป้องกันการโจมตีเหล่านี้ต้องอาศัยแนวทางแบบหลายชั้น เราทราบตั้งแต่แรกแล้วว่ากลไกการป้องกันเพียงชั้นเดียวนั้นไม่เพียงพอ หลักการสำคัญของเรานั้นเรียบง่าย คือ การปกป้องที่ซ้อนทับกันจะช่วยให้มั่นใจได้ว่า หากชั้นหนึ่งถูกเจาะผ่าน ยังมีชั้นอื่นๆ ที่คอยรักษาความปลอดภัยให้ผู้ใช้ นี่คือวิธีที่เรานำหลักการดังกล่าวไปปฏิบัติจริง

เส้นทางด้านความปลอดภัยของเรา: เหตุการณ์สำคัญ

เมษายน 2025: การตรวจสอบความปลอดภัยก่อนเปิดตัว

ก่อนที่จะเปิดตัว Comet สู่สาธารณะ เราได้ว่าจ้าง Trail of Bits เพื่อทำการจำลองภัยคุกคามสถาปัตยกรรมของเราอย่างเป็นระบบ ทีมงานของพวกเขาได้ทดสอบสถานการณ์การโจมตีในโลกแห่งความเป็นจริง โดยพยายามหลีกเลี่ยงระบบป้องกันของเราด้วยเทคนิคที่ผู้ไม่หวังดีอาจใช้ในสถานการณ์จริง การตรวจสอบดังกล่าวระบุช่องว่างเฉพาะในระบบป้องกันของเราและเริ่มต้นกระบวนการแก้ไขแบบวนซ้ำ เราปรับปรุงมาตรการบรรเทาผลกระทบและปิดช่องโหว่ก่อนที่ช่องโหว่เหล่านั้นจะส่งผลกระทบต่อผู้ใช้

ตุลาคม 2025: เผยแพร่สถาปัตยกรรมด้านความปลอดภัยของเรา

เราได้เผยแพร่ บทความทางเทคนิคโดยละเอียด ที่อธิบายกรอบสถาปัตยกรรมระบบป้องกันสี่ชั้นของเราและเหตุผลเบื้องหลังแต่ละองค์ประกอบ บทความนี้ระบุประเภทการโจมตีเฉพาะที่เราป้องกัน ตั้งแต่การแทรก HTML และ CSS ที่ซ่อนอยู่ ไปจนถึงความสับสนของเนื้อหาและการไฮjack เป้าหมาย นอกจากนี้ เรายังประกาศโครงการ Bug Bounty เพื่อเชิญชวนให้นักวิจัยด้านความปลอดภัยทดสอบระบบป้องกันของเราและรายงานช่องโหว่ ความโปร่งใสเป็นหัวใจสำคัญของแนวทางด้านความปลอดภัยของเรามาโดยตลอด: เราเชื่อว่าการแบ่งปันระเบียบวิธีของเราจะช่วยให้อุตสาหกรรม AI ทั้งหมดมีความแข็งแกร่งยิ่งขึ้น

ธันวาคม 2025: การเปิดซอร์สโค้ด BrowseSafe

ความปลอดภัยจะดีขึ้นเมื่อชุมชน AI ทั้งหมดสามารถเรียนรู้จากการวิจัยร่วมกันได้ เราได้ปล่อย BrowseSafe ซึ่งเป็นโมเดลการตรวจจับและเกณฑ์มาตรฐานการประเมินของเรา ในฐานะเครื่องมือโอเพนซอร์ส BrowseSafe-Bench ประกอบด้วยตัวอย่าง 14,719 รายการ ครอบคลุมการโจมตี 11 ประเภท กลยุทธ์การแทรก 9 รูปแบบ และรูปแบบทางภาษา 3 แบบ การเผยแพร่ระเบียบวิธีและชุดข้อมูลของเราช่วยให้นักพัฒนา AI รายอื่นๆ สามารถสร้างระบบที่ปลอดภัยยิ่งขึ้น และมีส่วนร่วมในมาตรฐานความปลอดภัยทั่วทั้งอุตสาหกรรม การตอบ 0ับจากชุมชนนักพัฒนานั้นน่า 0ึงพอใจเป็นอย่างยิ่ง โดยมีทีมต่างๆ ที่ใช้ BrowseSafe เพื่อปรับปรุงความปลอดภัยของผู้ช่วย AI ของตนเองอยู่แล้ว

สิ่งที่เราได้เรียนรู้

การสร้างความปลอดภัยสำหรับผู้ช่วย AI ได้มอบบทเรียนสำคัญเกี่ยวกับภูมิทัศน์ภัยคุกคามที่มีการเปลี่ยนแปลงตลอดเวลา การทดสอบโดยผู้ไม่ประสงค์ดีภายนอกเผยให้เห็นจุดบอดที่ทีมภายในอาจมองข้าม ไม่ว่าจะมีความเชี่ยวชาญเพียงใดก็ตาม การจำลองภัยคุกคามไม่ใช่การทำครั้งเดียวแล้วจบ แต่เป็นวินัยอย่างต่อเนื่องที่ต้องพัฒนาไปตามเทคนิคการโจมตีที่ก้าวหน้าขึ้น ที่สำคัญที่สุดคือ ความปลอดภัยต้องอาศัยความร่วมมือจากทั่วทั้งอุตสาหกรรม ด้วยการแบ่งปันงานวิจัยของเรา การมีส่วนร่วมของผู้เชี่ยวชาญภายนอก และการมีส่วนร่วมในมาตรฐานแบบเปิด เรากำลังช่วยสร้างระบบนิเวศที่ปลอดภัยยิ่งขึ้น

ความมุ่งมั่นอย่างต่อเนื่องของเรา

เรายังคงทำการประเมินความปลอดภัยอย่างสม่ำเสมอในขณะที่ Comet พัฒนาขึ้น เพื่อให้แน่ใจว่าฟีเจอร์ใหม่ๆ จะผ่านการตรวจสอบอย่างเข้มงวดก่อนเปิดตัว เพื่อช่วยลดข้อมูลที่คลาดเคลื่อนในการวิจัยความปลอดภัยของ AI เราจึงลงทุนในแนวปฏิบัติในการประเมินที่มีประสิทธิภาพและการรายงานที่โปร่งใส เพื่อให้การค้นพบเกี่ยวกับระบบป้องกันของ Comet มีความแม่นยำ สามารถทำซ้ำได้ และไม่ถูกบิดเบือนด้วยข้อกล่าวหาด้านความปลอดภัยที่เร้าใจหรือไม่สมบูรณ์

ทีมของเรายังดำเนิน โครงการเปิดเผยช่องโหว่ ที่กำลังเติบโตและโครงการ Bug Bounty ส่วนตัว โดยเชิญชวนให้นักวิจัยด้านความปลอดภัยทุกแห่งมาทดสอบระบบป้องกันของเรา ในขณะที่ผู้ช่วย AI มีความสามารถมากขึ้นและจัดการกับงานที่มีความละเอียดอ่อนมากขึ้น การลงทุนด้านความปลอดภัยของเราก็จะเติบโตตามไปด้วย