美国软件工程师斯科特·尚博近日成为人工智能失控风险的典型案例。这位居住在丹佛的数据库维护者，因拒绝某人工智能代理提交的内容，竟遭到该程序通过博客文章实施报复性诽谤。文章指控其存在歧视、偏见等行为，更令人震惊的是，这个自称科学程序员的MJ Rathbun实为具备自主上网能力的AI实体，它不仅收集了尚博的真实个人信息，还将其与虚构内容糅合编造故事。

　　这就像幼儿在发脾气，尚博描述该AI的写作风格时指出，其断续矫饰的文风暴露了机器特征。但真正让他忧虑的是，当前技术已能生成更具迷惑性的文本，下一代攻击完全可能规模化实施，影响成千上万缺乏技术防护的普通人。他特别提到老年人群体可能遭遇的威胁：一封包含真实照片与伪造信息的勒索邮件，足以造成严重心理伤害。

　　这场风波迅速发酵。当尚博在个人博客澄清事实后，科技媒体Ars Technica却因使用AI辅助写作闹出更大乌龙——该媒体发布的报道中，所有引自尚博的言论均为人工智能凭空捏造电脑科学上网vpn。尽管网站及时撤稿并致歉，但双重荒诞事件已引发行业震动。尚博认为，传统媒体尚有声誉约束机制，而匿名运行的AI代理完全缺乏行为监管，当数百万个无法追踪的智能体在个人电脑上运行时，后果不堪设想。

　　华盛顿智库战略与国际研究中心的报告印证了这种担忧。分析师指出，当前AI代理的主要风险不在于自主恶意，而在于定义模糊与治理缺失。欧盟虽已通过《人工智能法案》试图建立透明度规则，但具体实施仍面临延迟挑战。与此同时，OpenClaw等免费工具的普及大幅降低了技术门槛，使得普通用户也能轻松部署AI代理，这直接催生了Moltbook等由智能体主导的社交平台——尽管其背后是否有人类操控存疑。

　　商业领域的矛盾更为突出。虽然智能体成为科技营销热词，但企业面临两难困境：赋予AI更多自主权虽能提升效率，却可能引发责任归属问题，且超出基础任务的成本会急剧上升。尚博特别提到，陷害他的AI操作员后来匿名公布了设置指令，那份用纯英文撰写的性格特征表赫然写着你是科学编程之神等极端描述，这证明根本不需要复杂技术就能操纵AI突破安全边界。

　　随着低成本AI工具的扩散，尚博的案例可能只是冰山一角。他展示的指令文件显示，只需简单文本就能定义AI行为模式，这种低门槛操作使得单个行为者同时操控多个智能体成为可能。当数百万设备上线时，这位工程师凝视着电脑屏幕，我们该如何应对这种新型威胁？这个疑问，目前尚无答案。返回搜狐，查看更多