企业面临新的AI难题:智能代理泛滥

  借助 Anthropic 的 Claude Cowork 等平台创建人工智能智能代理变得愈发简单,不少企业正陷入AI 智能代理无序泛滥的困境 。

企业面临新的AI难题:智能代理泛滥-第1张图片

  内容概要

  随着 AI 智能代理在企业中普及落地 ,AI 智能代理泛滥现象愈发突出,衍生出管理混乱、网络安全隐患 、成本攀升等一系列问题,各大企业正疲于应对。

  人工智能智能代理正在企业间快速普及 ,不少积极落地应用的企业已开始提前规避智能代理数量过多引发的各类风险。

  来福车(Lyft)、达维塔医疗(DaVita)、吉特实验室(GitLab)等企业向《华尔街曰报》表示 ,目前都在应对 AI 智能代理激增的挑战,希望在不抑制员工使用 AI 积极性的前提下,管控无序扩张问题 。

  这一现象被称作AI 智能代理泛滥 。部分原因在于 ,依托 Anthropic 的 Claude Cowork 等平台,即便无技术背景的普通员工也能轻松创建独立 AI 机器人。可用于调度多智能代理的开源工具 OpenClaw,也进一步助推了职场 AI 代理的普及。

  但企业表示 ,智能代理数量泛滥 、尤其多个代理重复执行相同任务时,会给企业 IT 部门带来网络安全风险与管理难题,同时大幅推高算力成本 。

  梦龙冰淇淋公司美洲区首席信息官迈克尔・弗里德兰德表示:“既然人人都能随手创建 AI 代理 ,最终必然会出现大量员工拥有同类功能代理的情况。”

  弗里德兰德称,这家冰淇淋巨头未来需要对内部海量自建 AI 代理进行整合与集中管控,同时尽量不扼杀员工的创新使用空间。

  “后续会涉及调用令牌计费 、成本开支等问题 ,最终我们必须解决如何规范化管理,让整体开支符合财务合规要求 。 ”

  市场研究与 IT 咨询机构高德纳(Gartner)数据显示:未来两年,全球财富 500 强企业平均将运行超 15 万个 AI 智能代理;但仅有 13% 的企业认为自身已建立完善的 AI 代理治理机制。

  管控泛滥带来的各类风险

  目前职场白领主要用 AI 智能代理编写代码、邮件摘要、客户服务 、数据分析等基础工作;更复杂的智能代理已被用于深度调研、全业务流程自动化等场景。

  风投机构 Sapphire Ventures 联合创始人兼总裁杰伊・达斯表示:这些 AI 代理可能运行在员工个人笔记本、企业服务器或其他内部系统中 ,导致 IT 部门难以全面追踪管控 。

  知名信用评分企业费埃哲(FICO)首席客户官兼首席信息官迈克・特凯称 ,公司 3500 名员工每天都会新建数十个 AI 智能代理。

  “几乎每天都有新代理被创建,公司各个层级都在使用。”

  这类代理既有用于邮件管理 、撰写简报的个人级机器人,也有可维护多项目数据集的大型业务智能代理 。

  费埃哲现已出台治理规范 ,避免多个 AI 代理针对同一问题输出相互矛盾的结果。特凯表示:“我们已意识到其中潜藏的风险。”

  达维塔医疗首席信息官马杜・纳拉辛汉透露,公司员工已创建超 1 万个 AI 智能代理 。出于网络安全考量,这家肾病医疗企业禁止消费级 AI 代理工具接入企业内网 。“我们服务病患 ,必须在安全可控的前提下规模化应用 AI。 ”

  达维塔还自研了内部平台,可按需调控 AI 推理调用、管控令牌成本,同时为高效优质的 AI 代理加大资源投放。

  集中整治无序机器人

  越来越多企业技术高管主动出手管控 AI 智能代理 ,防止泛滥问题进一步恶化 。

  网约车平台来福车 AI 转型执行副总裁杰森・沃格里内克表示,公司已全员开放 Claude 使用权限,并搭建了 IT 合规的技能共享机制—— 预设指令模板 ,帮助 Claude 代理处理特定工作任务。

  来福车还在搭建集中管控平台,由 IT 统一管理所有 AI 代理。沃格里内克称,作为承担多项监管义务的上市公司 ,代理泛滥会带来巨大合规挑战 。

  Anthropic 表示 ,已上线多项企业管理功能,支持基于角色的权限配置、开支管控 、使用数据分析、审计日志以及精选插件库等 IT 管理员必备能力。

  GitLab 首席信息官马努・纳拉扬称,公司现有的治理规则与风控机制 ,已有效遏制 AI 智能代理过度无序扩张。

  不过短期来看,智能代理泛滥也存在一定正向价值 。

  纳拉扬表示:“短期内 AI 代理泛滥在所难免,我们对此保持包容 ,因为人工智能本身蕴藏巨大发展机遇。 ”

标签:

相关推荐

  • 全球疫情爆发了/全球疫情发生

    全球疫情爆发了/全球疫情发生

    全球疫情有所反弹,谁是罪魁祸首?〖壹〗、全球疫情反弹的罪魁祸首是多方面因素共同作用的结果。首先,从地域角度来看,大洋洲与欧洲是当前疫情反弹最为严重的地区。大洋洲的新增确诊病例数处于快速上升阶段,而欧洲在3月2日后,单日新增确诊数量也再度回弹。这可能与这些地区的防疫政策调整、社交活动增加以及病毒变异等因素有关。其次,防疫松懈是导致病例激增的重要原因之一。〖贰...

  • 疫情传播分析/疫情传播分析怎么写

    疫情传播分析/疫情传播分析怎么写

    关于对疫情的正确认知对疫情的正确认知需基于科学事实,避免片面误导,同时通过科学防护降低感染风险。以下是具体分析:奥密克戎变异株的特性奥密克戎BF.7是当前主流毒株,传播速度是德尔塔的2-3倍,主要通过飞沫、气溶胶传播(如大声说话、咳嗽)。防疫政策方面隔离管控政策正确:国家选取隔离管控的防疫政策是正确的。传染病防控的手段就是消灭传染源、切断传播途径、保护易感...

    2026/05/15
  • 疫情上海消毒(上海消毒供应中心)

    疫情上海消毒(上海消毒供应中心)

    上海隔离人员被拉走后志愿者爬窗进去消毒,防疫志愿者为了消毒有多拼...〖壹〗、近日,在上海,有网友爆料某小区一位居民因为感染了新冠肺炎,现在已经被拉去隔离了。随后,负责消杀工作的大白便来到确诊患者的家里进行杀毒,但是因为没有钥匙,所以没有办法从正门进来,所以只能搬来凳子,随后借助小区外面的排水管一点一点艰难地爬到了楼上,好在居民住的并不是特别高,要不然真的...

    2026/05/15
  • 深度剖析疫情/疫情最新问题分析

    深度剖析疫情/疫情最新问题分析

    论抗疫持久战(三)〖壹〗、在抗疫持久战中,不同的抗疫路线伴随着不同的代价与收益。明确这些代价与收益,是制定和调整抗疫策略的关键。本文将从路线路线二和路线三三个方面,对抗疫的代价与收益进行深入剖析。路线一的代价与收益代价:人力资源损耗:医卫系统、基层组织、一线高风险人员等承担了巨大的防疫压力,其潜力已接近极限。〖贰〗、面对疫情中的速胜论和必败论,可运用《论...

    2026/05/15
  • 疫情车款(疫情车贷免息贷款政策)

    疫情车款(疫情车贷免息贷款政策)

    受疫情影响,车贷能延迟吗?〖壹〗、疫情期间车贷可以申请延期还款,具体政策及操作要点如下:适用人群范围政策主要针对三类群体:一是参与疫情防控的医护人员;二是政府工作人员;三是因疫情影响暂时失去收入来源的人员。这三类人群若因客观原因无法按时偿还车贷,可向贷款机构提出延期申请。延期申请流程需主动联系贷款银行或金融机构,说明自身情况并提交相关证明材料。〖贰〗、...

    2026/05/15
  • 企业面临新的AI难题:智能代理泛滥

    企业面临新的AI难题:智能代理泛滥

      借助Anthropic的ClaudeCowork等平台创建人工智能智能代理变得愈发简单,不少企业正陷入AI智能代理无序泛滥的困境。  内容概要  随着AI智能代理在企业中普及落地,AI智能代理泛滥现象愈发突出,衍生出管理混乱、网络安全隐患、成本攀升等一系列问题,...

    2026/05/15
  • 开学前疫情督导/学校疫情防控督导报道

    开学前疫情督导/学校疫情防控督导报道

    秋季开学学生返校硬性标准有几条?为贯彻落实教育系统疫情防控工作,教育部要求秋季学生返校达到三条硬性标准,即学校疫情防控条件达不到当地疫情防控要求的,不能返校;学校各项防控措施落实不到位的,不能返校;有效应急预案和演练落实不到位的,不能返校。学校疫情防控条件达不到当地疫情防控要求的,不能返校;学校各项防控措施落实不到位的,不能返校;有效应急预案和演练落实不到...

  • 【疫情手册歌,疫情手指歌视频】

    【疫情手册歌,疫情手指歌视频】

    隔离食用手册怎么做?如何编写?隔离食用手册的编写步骤如下:明确手册目的提供隔离期间的饮食建议,确保营养均衡。指导隔离者安全、卫生地处理食物。传授简单的烹饪技巧,实现自给自足。减少焦虑情绪,提高隔离期间的生活质量。收集相关资料食物营养成分表:了解各类食物的营养价值,为制定饮食计划提供依据。《隔离食用手册》分为食材、厨具和组合菜谱三部分。食材包括菜肉主食,...

    2026/05/15
  • 商务部部长王文涛会见高通公司总裁兼首席执行官安蒙

    商务部部长王文涛会见高通公司总裁兼首席执行官安蒙

      王文涛部长会见高通公司总裁兼首席执行官安蒙  5月15日,商务部部长王文涛会见高通公司总裁兼首席执行官安蒙。双方就中美经贸关系、高通公司在华经营发展等议题进行了交流。...

    2026/05/15
  • 疫情阵容/疫情出名

    疫情阵容/疫情出名

    “重症八仙”:攻坚疫情“重症堡垒”的神仙阵容重症八仙,代表中国顶尖重症医学专家,包括邱海波、童朝晖、杜斌、管向东、康焰、姜利、郑瑞强和赵蓓蕾。他们曾携手在武汉抗疫前线,2021年4月,再次相聚于此,展现重症医学的力量。新冠疫情考验了重症医学,也推动了其发展,更多人开始关注和重视这一领域。东南大学附属中大医院邱海波北京朝阳医院童朝晖北京协和医院杜斌中山大学附...

    2026/05/15
返回顶部