AI TriSM ย่อมาจาก AI Trust Risk & Security Management ซึ่งเป็น DeepTech การจัดการความเสี่ยงในระบบมีการติดตั้งใช้งานปัญญาประดิษฐ์ ที่จะเข้ามาช่วยให้มั่นใจได้ว่า… เทคโนโลยีปัญญาประดิษฐ์ หรือ AI Technology จะสามารถทำในสิ่งที่ตั้งใจจะทำทั้งหมดนั้นได้ในลักษณะที่น่าเชื่อถือ ยุติธรรม เชื่อถือได้ มีประสิทธิภาพ และ ปลอดภัย… นอกจากนั้น AI TriSM ยังจะช่วยปกป้องข้อมูลที่ต้องแลกเปลี่ยนทั้ง Input-Output จัดการการกำกับดูแล ปกป้องความเป็นส่วนตัว และ ตรวจจับความผิดปกติเพื่อปกป้องฟังก์ชันที่สำคัญของระบบ
Gartner Inc. เป็นสถาบันแรกที่นำเสนอแนวคิดในการใช้โมเดล AI TriSM เพื่อรับมือกับการเติบโต และ การเพิ่มขึ้นของปัญญาประดิษฐ์ในกิจกรรมระดับองค์กร ซึ่งได้เพิ่มความซับซ้อน และ เข้าถึงรายละเอียดในแบบที่มีแต่มนุษย์ดำเนินงานประสานกันไม่ได้… ซึ่งการป้องกันความผิดพลาดในขั้นตอนการดำเนินงานของ AI จำเป็นต้องได้รับความน่าเชื่อถือ… ซึ่งถ้าลองนึกถึงข้อผิดพลาดของ AI แนะนำสินค้าจากแพลตฟอร์มชอปปิ้งที่เสนอเครื่องปั๊มนมวัวให้คุณแม่มือใหม่… หรือ AI แนะนำเส้นทางที่พาเราเข้าไปในซอยตัน… AI วิเคราะห์การฟอกเงินที่ทำให้บัญชีเงินฝากคนถูกล๊อตเตอรรี่ถูกอายัด… AI วิเคราะห์การซื้อขายหลักทรัพย์ที่ให้สัญญาณทางเทคนิคปนกันมั่วไปหมด ยังไม่นับ AI คัดกรองผู้สมัครงาน ขอสินเชื่อ… ซึ่ง AI เหล่านี้ได้ทำให้งานยากๆ ที่เคยล่าช้าและซับซ้อนเร็วขึ้น… แต่ก็ไม่ได้แปลว่าระบบจะไม่สร้างผลค้างเคียงทั้งที่คาดถึง และ คาดไม่ถึงตามมา… ซึ่ง AI TriSM จะเข้ามาเติมเต็มการติดตาม และ ตรวจสอบผลข้างเคียงที่เป็นความเสี่ยง รวมทั้งความปลอดภัยต่างๆ ที่ระบบอาจจะกลายเป็นปัญหา หรือ ช่องโหว่ที่จะสร้างความเสียหายตามมาได้
ในทางเทคนิค… AI TRiSM จะเป็นการสร้างแบบจำลองการจัดการความเสี่ยง หรือ Model Risk Management ทั้งการกำกับดูแล และ การสนับสนันอัลกอริทึ่ม AI ให้ทำงานให้เที่ยงตรง… โดยมี Guided Documentation และการทำ Automated Risk And Bias Checks ภายใต้การจัดการที่โปร่งใส
… รายละเอียดลึกกว่านี้ขอข้ามที่จะแตะน๊ะครับ!
References…
