CIO ตั้งเป้าหมายที่จะขยายทีมผ่านการสร้างคลังดิจิตอลของพนักงาน

ผู้บริหารระบบสารสนเทศ (CIO) ของ UC San Diego ต้องการใช้ตัวแทน AI และดิจิตอลทวินส์เพื่อทำงานอัตโนมัติในด้าน IT, ปรับปรุงความปลอดภัยในเชิงไซเบอร์, และบรรเทาภาระของพนักงาน

ในสัปดาห์นี้ที่การประชุม Cisco Live, ดร.วินซ์ เคลลินได้เสนอให้ใช้เอเจนต์ AI และดิจิตอลทวินส์ของพนักงาน IT ที่มีประสบการณ์ในการจัดการงานที่ซ้ำซากและเหตุฉุกเฉินในช่วงดึก ครั้งแรกที่รายงานโดย The Register.

พูดกับผู้ฟังที่เต็มไปด้วยคน คุณเคลลินกล่าวว่า “ทุกทางที่เราเดินเข้าไปนั้นจะนำเราสู่ระดับการทำงานอัตโนมัติที่สูง ถ้าเราสามารถทำได้” รายงานโดย The Register.

มหาวิทยาลัยทำงานเสมือนเป็นเมืองเล็กๆ เนื่องจากมีการต้อนรับคนมากกว่า 100,000 คนต่อวัน ในขณะที่ต้องจัดการกับปัญหาการลดลงของจำนวนนักเรียนที่ลงทะเบียนและทรัพยากรทางการเงินที่จำกัด

เคลเลนทำนายว่าระบบ AI จะได้รับความรู้จากผู้ทำงานด้านเทคโนโลยีเพื่อจัดการกับความต้องการที่เพิ่มขึ้นในอนาคต “เรามีความรู้ทั้งหมดนี้ในมนุษย์เกี่ยวกับนโยบายเครือข่ายที่เราต้องเอาออกมาจากใจของพวกเขาในรูปแบบการสปริงเกษตรที่ดริบ” เขากล่าว ดังที่รายงานโดย The Register.

เคลเลนเชื่อว่าการโอนย้ายความรู้นี้ไปยัง AI อย่างช้าๆจะทำให้ทีม IT สามารถลดภาระงานของพวกเขาและเพิ่มประสิทธิภาพของเครือข่าย.

สถาบันวิทยาศาสตร์ทะเลที่ UCSD ก็ยังเผชิญกับภัยคุกคามด้านความมั่นคงของชาติเช่นกัน “เมื่อคุณวางโซนาร์ลงในน้ำ คุณจะค้นพบกว่าแค่ปลา และประเทศอื่น ๆ ต้องการทราบเกี่ยวกับสิ่งนั้น” เขาเตือน ที่รายงานโดย The Register.

การโจมตีทางไซเบอร์ที่ได้รับการสนับสนุนจากต่างประเทศกำลังกลายเป็นที่ซับซ้อนมากขึ้น ทำให้บุคลากรต้องทำการป้องกันพื้นฐานเป็นอัตโนมัติเพื่อให้สามารถมุ่งเน้นไปที่ภัยคุกคามที่อันตรายมากขึ้น.

เคลเลนเชื่อว่า AI “มีศักยภาพในการตรวจจับปัญหาแบบอย่างโต้ตอบได้” และเห็นด้วยว่าคลังความรู้ดิจิตอลเป็นวิธีในการรักษาความชำนาญของพนักงานในขณะที่ทำให้ภาระของพวกเขาบรรเทาลง “จากนั้นคนนั้นจะไม่ต้องถูกทรมานเมื่อมีเหตุการณ์อื่นๆ เกิดขึ้น พวกเขาจะไม่ถูกเรียกในครั้งถัดไป,” เขาเพิ่มเติม ดังที่รายงานโดย The Register.

ความคิดของเขาทำให้เกิดคำถามที่สร้างความสงสัย: คุณจะยอมให้นายจ้างของคุณคัดลอกความชำนาญของคุณโดยทางดิจิตอลหรือไม่ ถ้านั่นหมายความว่าคุณจะได้รับการเรียกวิ่วไปทำงานในช่วงที่เครียดน้อยลง? ตามที่การทำงานแบบอัตโนมัติเติบโตขึ้น ขอบเขตระหว่างการทำงานของมนุษย์และเครื่องจักรอาจจะเบลอลง แต่สำหรับทีม IT มันอาจหมายความว่าการผ่อนคลายที่ต้องการอย่างยิ่ง.

อย่างไรก็ตาม การเพิ่มการทำงานแบบอัตโนมัติก็เพิ่มความกังวลในเรื่องความปลอดภัยทางไซเบอร์ เช่นระบบที่ถูกดำเนินการโดยผู้ทำงาน IT แบบอัตโนมัติและตัวแทน AI เป็นเป้าหมายที่น่าสนใจสำหรับแฮ็กเกอร์ การโจมตีระบบเหล่านี้อาจทำให้เกิดการรบกวนอย่างมาก

แท้จริงแล้ว ดิจิตอลทวินที่ถูกคุมการณ์อาจถูกนำมาใช้เพื่อทำลายโปรโตคอลความปลอดภัยและกระจายมัลแวร์ด้วยอัตราที่รวดเร็วกว่าผู้ดำเนินการทางมนุษย์

รายงานรายงาน จากฟอรั่มเศรษฐกิจโลก อ้างว่าผู้โจมตีสามารถปนเปื้อนข้อมูลการฝึกฝน AI หรือค้นหาช่องโหว่ในโมเดล AI ซึ่งส่งผลให้ระบบล้มเหลวหรือสร้างผลลัพธ์ที่ไม่ถูกต้อง

กลุ่มผู้โจมตีนี้มักจะทำการ “ปนเปื้อนข้อมูล” และโจมตีโมเดล ซึ่งมักจะทำได้ง่ายแต่ยากที่จะป้องกัน เนื่องจากมาตรการรักษาความปลอดภัยในปัจจุบันยังไม่เพียงพอ ดังที่ ITPro ได้ระบุไว้

ถึงแม้จะมีความเสี่ยงเหล่านี้ แต่มีผู้เชี่ยวชาญด้าน IT ถึง 96% ที่รับรู้ถึงภัยคุกคามจาก AI agents แต่ส่วนใหญ่องค์กรยังรีบเร่งในการนำมาใช้งานโดยไม่มีการควบคุมที่เหมาะสมหรือนโยบายที่เข้มงวด เช่นที่รายงานโดย ZDNet.