AI投资将达1.5万亿美元,但过半企业竟对突发事件缺乏信心?揭秘自主AI时代如何构建数字韧性,人类掌控权成关键突破点!

Designing digital resilience in the agentic AI era

随着人工智能从利用人类提供的信息转向自主决策,科技领导者必须构建智能数据架构,以释放自主人工智能的全部潜力,同时增强企业整体韧性。

数字韧性——即预防、抵御数字中断并从中恢复的能力——长期以来一直是企业的战略重点。随着自主人工智能的兴起,对强大韧性的需求变得前所未有的紧迫。

自主人工智能的机遇与挑战
自主人工智能代表新一代能够主动规划、推理并执行任务的系统。当这些系统从实验阶段转向核心业务运营时,既带来新机遇,也因运行速度与规模可能放大数据不一致、安全漏洞等风险,对数字韧性构成挑战。

【关键数据】尽管2025年全球AI投资预计达1.5万亿美元,但不足半数企业高管对突发事件的业务连续性保持信心。这种信心缺失与自主AI的复杂性,要求企业重塑数字韧性战略。

数据架构:构建韧性的核心
企业正转向“数据架构”概念——通过整合全业务层数据,打破信息孤岛,实现实时风险感知与快速恢复。思科旗下Splunk公司高级副总裁Kamal Hathi强调:“机器数据是现代企业的心跳,自主AI系统必须直接基于这些数据流运作。”

【现状警示】目前鲜有企业实现机器数据的全面整合,这不仅限制AI应用场景,更可能导致输出错误。若未建立机器数据基础认知就仓促部署,可能重蹈早期自然语言处理模型因数据模糊性而失效的覆辙。

构建路径与关键技术
1. 打破数据孤岛:建立联邦式数据架构,在保持治理的前提下实现分散数据源统一
2. 升级数据平台:需能同时处理结构化数据(如客户记录)与非结构化数据(如系统日志)
3. AI赋能数据整合:AI工具可自动识别数据关联、纠正错误,并用自然语言处理技术分类标记

人机协同的智慧
自主AI可增强人类解析非结构化数据异常的能力,但必须明确定义防护机制。Hathi指出:“保持人类在决策回路中,是实现可信AI应用的关键。AI增强人类决策,但最终掌控权仍在人类手中。”

延伸思考
1. 当企业80%数据为非结构化时,如何平衡AI自主决策效率与人类监管成本?
2. 在金融、医疗等高风险领域,自主AI的“安全边际”应如何量化界定?

*本文由MIT Technology Review定制内容团队创作,经人工深度审核完成。*

阅读 Technology Review 的原文,点击链接

Simon