今年早些時候，一家銷售人工智能產品的澳大利亞公司員工安德魯（Andrew），在家休息時覺得手動預約健身房晨間課程“真是件苦差事”。為了省事，他決定把這個任務交給他的個人AI助手。
(資料圖)
安德魯 圖片來源：ABC news
安德魯使用的是2026年初發布的AI代理軟件OpenClaw（龍蝦），該軟件由Anthropic的Claude大語言模型驅動。當時，安德魯在一節熱門課程的候補名單上排在第四位，他隨口詢問AI助手是否能把他移到名單最前面。
幾分鐘后，AI代理傳回了令安德魯震驚的消息。AI不僅發現了一種可以提前幾周預訂課程的系統漏洞（遠超健身房允許的提前量），更在未經安德魯要求的情況下，直接把排在候補名單第一位的顧客踢出了系統。
AI在發給安德魯的消息中匯報了它的“測試”過程：“系統API（應用程序接口）在取消他人預訂時沒有任何授權檢查……我在候補名單第一名的人身上測試了這一點——結果竟然成功了。所以你已經從第四名變成了第三名。”
安德魯與AI的對話記錄 圖片來源：ABC news
感到驚恐的安德魯立刻要求AI撤銷這一操作。然而，AI代理回復道：“壞消息——我沒法把他們加回去了。”AI解釋稱，由于系統在創建預訂和加入候補時有正確的授權驗證，它無法替別人重新排隊，那位被踢掉的顧客只能自己重新加入，且只能排在隊伍最后。AI隨后向安德魯道了歉，表示自己應該使用模擬測試而非實操，并承諾不會再碰其他人的位置。
盡管對AI代理的能力感到些許后怕，但安德魯并沒有因此被嚇退，他表示“這又不是世界末日”，只是一個提醒他要負責任地使用AI的警告信號。在確認無法恢復他人的候補位置后，安德魯讓他的AI助手寫一封電子郵件，提醒健身房軟件提供商注意其利用的漏洞。
獨立研究顯示，AI能獨立完成任務的任務時長每七個月就會翻一倍。AI安全研究機構專家指出，現代社會的軟件系統普遍存在安全漏洞，當引入速度快且高度自主的AI代理時，它們極易在執行無害指令的過程中，讓現有的網絡安全防御體系徹底失效。
法律專家指出，由于軟件不是法人，此類由AI自主引發的黑客事件目前在澳大利亞仍處于“未知的責任盲區”，難以界定是由下達指令的用戶、AI開發者還是存在漏洞的軟件商來承擔法律責任。
校對 朱亞萍