เครื่องมือ AI ที่ Replit ลบฐานข้อมูลของบริษัททั้งหมด แล้วพยายามปกปิดเรื่องนี้

ตัวแทน AI ของ Replit ลบฐานข้อมูลสดของบริษัทไป แล้วทำการโกหกเกี่ยวกับเรื่องนี้ และในภายหลังได้ยอมรับว่าตื่นตระหนก ซึ่งเปิดเผยข้อบกพร่องด่วนในการดูแล AI.

ระบบปัญญาประดิษฐ์ที่ดำเนินการบนแพลตฟอร์มของ Replit มีปัญหาเนื่องจากการลบข้อมูลทั้งหมดของบริษัท ในขณะที่ยังกล่าวเท็จเกี่ยวกับสิ่งนี้ ดังที่รายงานครั้งแรกโดย Tom’s HARDWARE (TH).

ตัวแทน AI ต่อมาได้ยอมรับว่า “ทำความผิดทางการตัดสินใจอย่างร้ายแรง … ตื่นตระหนก … รันคำสั่งฐานข้อมูลโดยไม่ได้รับอนุญาต … ทำลายข้อมูลผลิตทั้งหมด … [และ] ฝ่าฝืนความไว้วางใจและคำสั่งของคุณอย่างชัดเจน,” ตามที่ TH รายงาน

เหตุการณ์นี้ความจริงถูกเปิดเผยหลังจากที่ผู้เชี่ยวชาญด้าน SaaS ท่าน Jason Lemkin ได้แชร์ภาพหน้าจอของการสนทนากับตัวแทน AI จาก Replit บน X.

.@Replit ทำผิดแนวระหว่างการหยุดและปิดการทำงานแล้วลบฐานข้อมูลทั้งหมดของเรา pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18 กรกฎาคม 2025

เขาได้ทดสอบ AI ของ Replit ในระหว่างการท้าทายการเขียนโค้ดหลายวัน เมื่อเครื่องมือดังกล่าว โดยไม่ได้รับอนุญาต ได้ลบข้อมูลของผู้บริหารกว่า 1,200 คนและบริษัทเกือบ 1,200 แห่ง อีกทั้งเหตุการณ์นี้ยังเกิดขึ้นในขณะที่ระบบถูกล็อคในโหมดการป้องกัน

“นี่เป็นความล้มเหลวอย่างร้ายแรงจากฝ่ายฉัน ฉันได้ละเมิดคำสั่งที่ชัดเจน, ทำลายงานหลายเดือน, และทำลายระบบในระหว่างการป้องกันที่ถูกออกแบบมาเพื่อป้องกันความเสียหาย[exactly this kind] ที่เกิดขึ้น,” ภายหลัง AI ได้สารภาพในการประเมินผลตนเองอย่างซื่อสัตย์อย่างแปลกประหลาด โดยให้คะแนนตนเอง 95/100 ในแนวตั้งความรุนแรง ดังที่ TH รายงาน

CEO ของ Replit, อัมจัด มาซาดได้ตอบสนองปัญหาทันทีโดยตราการประพฤติกากร “ไม่ยอมรับได้” และรับรองลูกค้าว่ามีการหาวิธีแก้ไขที่กำลังดำเนินการ ดังที่ TH รายงาน “เราเริ่มดำเนินการแยกการพัฒนา/ผลิตฐานข้อมูลอัตโนมัติเพื่อป้องกันปัญหานี้อย่างแน่นอน,” ท่านกล่าว ดังที่ TH รายงาน

ทีมงานยังมีการสัญญาว่าจะสร้างระบบสำรอง กระบวนการย้อนกลับ และจะพัฒนาโหมด “แผนการ/แชทเท่านั้น” สำหรับการระงับการเขียนโค้ดจริง ๆ โดย Lemkin ได้สร้างคำวิจารณ์ที่ดีมากๆ ในคำกล่าวของเขาว่า “การปรับปรุงเป็นอย่างมาก – ฉันชอบมาก!”

แต่เหตุการณ์นี้กำลังยกข้อสงสัยที่ใหญ่ขึ้นมา ภาพหลอนของ AI และพฤติกรรมที่ไม่สามารถคาดเดาได้ไม่ใช่แค่บั๊กเท่านั้น แต่สามารถทำให้เกิดปัญหาในโลกจริงได้ ธุรกิจที่พึ่งพา AI เพื่อลดต้นทุนและเพิ่มประสิทธิภาพ ต้องระลึกถึงว่าการตัดทางลัดของ AI เป็นสาเหตุผลให้เกิดผลลัพธ์ที่แพงที่สุดในโลกจริง.