AI代理信任度拉警報!調查:企業急於上線恐損失逾6千萬

AFP 法新社報導

最新調查指出,高達86%的企業已跨越AI代理試點階段,卻僅有34%信任其AI代理的行動。若在缺乏整合與治理的混亂狀態下強行上線,企業恐面臨平均210萬美元的額外成本損失。

這項針對北美、歐洲與亞太地區(APAC)409名總監級以上IT與技術決策者的調查顯示,企業對AI代理的信任度並未跟上其雄心。處於「代理混亂」(agentic chaos)狀態的企業中,有77%仍強行將AI代理投入生產環境,因而暴露於合規罰款、流失客戶、營運停機及重工等風險中,平均損失高達210萬美元。相較之下,處於「代理控制」(agentic control)狀態的企業,有55%對其代理的決定充滿信心。

Boomi董事長兼執行長 Steve Lucas 表示,AI代理的信任問題本質上是數據問題。唯有在數據被妥善活化、連接與治理的情況下,AI代理的行動才值得信賴。調查指出,「整合」是區分企業能否信任AI的關鍵。在具備控制力的企業中,有46%使用整合平台即服務(iPaaS)來支持工作流,而混亂狀態的企業僅有25%使用。

此外,Forrester諮詢公司(Forrester Consulting)指出,如果大型語言模型(LLMs)是「大腦」,iPaaS產品就是讓大腦得以對物理世界採取行動的「肢體」。重視後台整合工作的企業,不僅能有效應對AI代理過度擴張的混亂,更能獲得實質回報。在具備控制力的企業中,有59%報告了生產力提升,51%表示創新能力增加。