Security Concern in Generative AI Era

 

เมื่อพนักงานกำลังก้าวเข้าสู่การใช้งาน Generative AI (GenAI) อย่างเต็มตัว โดยมีพนักงานสายงานความรู้ (Knowledge Workers) จำนวนมากที่ใช้งาน AI ในชีวิตประจำวัน ในปัจจุบัน 55% ของพนักงานยอมรับว่าใช้เครื่องมือ GenAI ที่ไม่ได้รับการอนุมัติในที่ทำงาน รวมถึงทุกแอปพลิเคชัน (Software as a Service หรือ SaaS) กำลังมุ่งสู่การผสานรวม AI เข้าไปและผลที่ตามมาคือการเพิ่มขึ้นอย่างรวดเร็วของการนำ AI มาใช้ ซึ่งกำลังเปลี่ยนแปลงประสิทธิภาพการดำเนินงาน การขายและการตลาด รวมถึงทีมพัฒนาซอฟแวร์  อย่างไรก็ตาม 3 ใน 4 ของบริษัทรายงานเหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับ GenAI พบว่า ยิ่งมีการใช้ AIที่ไม่ได้รับอนุญาต (Shadow AI)  เพิ่มมากขึ้นก็ยิ่งเพิ่มความเสี่ยงต่อองค์กร Shadow AI อาจทำให้เกิดการเข้าถึงระบบและแอปพลิเคชันขององค์กรโดยไม่ได้รับอนุญาต พนักงานอาจทำให้เกิดการรั่วไหลของข้อมูล ความลับหรือทรัพย์สินทางปัญญาโดยไม่ตั้งใจ (หรือโดยเจตนา) และการรั่วไหลของข้อมูลที่ละเอียดอ่อนไปยัง GenAI ที่ตั้งอยู่ภายนอกอาจทำให้องค์กรไม่ปฏิบัติตามข้อกำหนดด้านกฎระเบียบ ข้อบังคับจากภาครัฐ การนำ GenAI ไปใช้อย่างไม่มีการควบคุม มีความเร่งด่วน ดังนั้นโซลูชั่น AI Access Security จึงมีความจำเป็นอย่างมากต่อธุรกิจ เพื่อห้ามารถใช้งาน GenAI ได้อย่างมีประสิทธิภาพ และปลอดภัยต่อการรั่วไหลของข้อมูล ความลับขององค์กร 

 

  • App dictionary ที่รอบรู้ GenAI มากกว่า 500 apps 

  • Specific GenAI มากกว่า 60 รายการ 

  • มองเห็นเทรนด์ของการใช้งาน GenAI 

  • สามารถระบุ GenAI ที่ติดตั้งผ่าน Marketplaces ได้ 

  • มีแดชบอร์ด ป้องกันการละเมิดความปลอดภัยและความเป็นส่วนตัว 

  • แสดงคะแนนความเสี่ยง (Risk Score) โดยคำนวณจากความสามารถของ GenAI แต่ละตัว 

  • สามารถควบคุมการใช้งาน เช่น การอัปโหลด/ดาวน์โหลด ได้ 

  • สามารถตรวจจับ ตรวจสอบ และแก้ไขปัญหา GenAI ที่ไม่ได้รับอนุญาตให้ใช้งาน 

  • ควบคุมการเข้าถึงและตรวจสอบสิทธิ์การใช้งานแอป GenAI 

  • ป้องกันการเปลี่ยนแปลงที่ไม่ได้รับอนุญาตในการตั้งค่าของแอป GenAI 

  • มีการใช้ Machine Learning และ LLM เพื่อจำแนกประเภทข้อมูลมากกว่า 300 แบบ 

  • สามารถตรวจจับเอกสารที่มีข้อมูลสำคัญด้วยโมเดลที่ผ่านการฝึกมาแล้วมากกว่า 100 แบบ และมี Machine Learning ที่ลูกค้าสามารถฝึกฝนได้ 

  • มีระบบรวมศูนย์สำหรับการจัดการความเสี่ยงของข้อมูล (Unified Data Risk Command Center UI) 

  • สามารถแจ้งเตือนและให้คำแนะนำสำหรับผู้ใช้งานได้ 

  • ทำงานร่วมกับ ChatGPT Enterprise เพื่อสแกนข้อมูลที่ไม่ได้ใช้งาน (data-at-rest) 

  • บล็อก URL และไฟล์ที่เป็นอันตรายในคำตอบของ GenAI ด้วยแนวคิด Zero Trust 

  • แจ้งเตือนและออกรายงานสำหรับการตรวจสอบความปลอดภัย 

  • การจัดการข้อมูลแบบรวมศูนย์พร้อมการตรวจจับภัยคุกคามในตัว 

วันหนึ่ง นักพัฒนาซอฟต์แวร์คนหนึ่งพยายามเข้าสู่ระบบ บัญชี Github ส่วนตัว ของเขาในระหว่างการทำงาน แต่กลับพบว่าการเข้าถูกปิดกั้นโดย SaaS Security Policy ที่องค์กรตั้งไว้ ซึ่งใช้นโยบายการควบคุมสิทธิ์การใช้งานเพื่อตรวจสอบและป้องกันการเข้าถึงที่ไม่เหมาะสม เมื่อไม่สามารถเข้าถึงบัญชีส่วนตัวได้ นักพัฒนาจึงพยายามเข้าถึง Enterprise Github พร้อมด้วยฟีเจอร์ Copilot AI เพื่อช่วยในการพัฒนาซอฟต์แวร์ การกระทำนี้ได้รับการตรวจสอบโดยระบบความปลอดภัยขององค์กร นักพัฒนาก็ได้รับ สามารถใช้งาน Enterprise Github เนื่องจากเขาได้ลงทะเบียนใน ประเทศไอร์แลนด์ และใช้อุปกรณ์ที่ขององค์กร ระบบความปลอดภัยจึงมั่นใจว่าการเข้าถึงครั้งนี้ปลอดภัยและเหมาะสม เรื่องนี้สะท้อนให้เห็นถึงการสร้างสมดุลระหว่างการรักษาความปลอดภัยและการส่งเสริมประสิทธิภาพในการทำงาน โดยการใช้เทคโนโลยีและนโยบายความปลอดภัยที่ชัดเจนเพื่อปกป้องข้อมูลขององค์กรในขณะที่ยังคงสนับสนุนการทำงานของพนักงานอย่างเต็มที่ 

นักพัฒนาซอฟต์แวร์กำลังทำงานเพื่อปรับปรุงโค้ดของเขาให้มีประสิทธิภาพมากขึ้น โดยใช้ ChatGPT เพื่อช่วยในการวิเคราะห์และเพิ่มประสิทธิภาพของโค้ด อย่างไรก็ตาม ก่อนที่โค้ดจะถูกส่งออกไปยัง ChatGPT ระบบ Data Security ขององค์กรได้เริ่มทำงานโดยการ สแกนเนื้อหา เพื่อค้นหาข้อมูลที่อาจเป็นความลับหรืออ่อนไหว ระหว่างการสแกน ระบบที่ใช้ Machine Learning (ML) ได้ตรวจจับรูปแบบที่มี ข้อมูลรับรองแบบฮาร์ดโค้ด (hard-coded credentials) และ ข้อมูลลิขสิทธิ์ขององค์กร (proprietary data) ซึ่งอาจเสี่ยงต่อการเข้าถึงจากภายนอก เมื่อระบบพบความเสี่ยงดังกล่าว โค้ดจึงถูก บล็อกโดยอัตโนมัติ เพื่อไม่ให้ส่งไปยัง ChatGPT โดยตรง ซึ่งช่วยปกป้องข้อมูลสำคัญขององค์กรจากการถูกเปิดเผยในกระบวนการนี้ เรื่องนี้แสดงให้เห็นถึงความสำคัญของการใช้ระบบความปลอดภัยที่ล้ำสมัย เช่น AI และ ML ในการรักษาความลับและลดความเสี่ยงด้านข้อมูล ในขณะเดียวกันก็ยังคงสนับสนุนการพัฒนาซอฟต์แวร์อย่างต่อเนื่องและปลอดภัย 

Summary of AI Access Security Benefits:  Enhanced Data Privacy and Compliance: ปกป้องความเป็นส่วนตัวของข้อมูลและรับรองการปฏิบัติตามข้อกำหนดทางกฎหมาย 

Efficient Incident Investigation: ช่วยให้สามารถวิเคราะห์เหตุการณ์ด้านความปลอดภัยของข้อมูลได้อย่างรวดเร็ว ละเอียดถี่ถ้วน และมีประสิทธิภาพ 

GenAI Risk Discovery: สามารถระบุแอปพลิเคชัน GenAI ใหม่และประเมินระดับความเสี่ยงด้านความปลอดภัยที่เกี่ยวข้องกับ GenAI ที่กำลังใช้งานอยู่ 

Unauthorized Access Protection: Detects, monitors, and mitigates ปัญหาการเข้าถึงแอปพลิเคชันและข้อมูลขององค์กรโดยไม่ได้รับอนุญาต 

Streamlined Security Architecture: จัดการความปลอดภัยที่เรียบง่ายและเป็นอัตโนมัติ ช่วยเพิ่มความคล่องตัวให้กับการดูแลภาพรวม 

Support for Business Growth: สร้างสมดุลระหว่างเป้าหมายทางธุรกิจและรายได้ โดยไม่เพิ่มความเสี่ยงด้านความปลอดภัยไซเบอร์ 

สนใจติดต่อติดต่อเรา ผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์และทุกเรื่องของเทคโนโลยีที่ครบวงจรเพื่อรับคำปรึกษาเพิ่มเติมฟรี 

Email: Sales@snoc.co.th

Tel: 02 690 3999

Share Button

Comments

comments