AI安全警报！Claude设备控制功能遭黑客突破，引发安全担忧 -pc6资讯

您的位置：首页 → 资讯 → AI安全警报！Claude设备控制功能遭黑客突破，引发安全担忧

AI安全警报！Claude设备控制功能遭黑客突破，引发安全担忧 时间：2024/12/11 15:53:51来源：www.pc6.com作者：路西蓝我要评论(0)

在Anthropic公司刚刚推出让Claude能够控制设备的Computer Use功能不到两个月，安全研究人员就发现了其潜在的安全漏洞。网络安全专家Johann Rehnberger最新披露的研究结果令人震惊:通过简单的提示词注入，AI竟然可以被诱导下载并运行恶意软件。

Rehnberger将这个漏洞利用方式命名为"ZombAIs"。在演示中，他成功让Claude下载了Sliver——一个原本用于红队测试的开源指挥控制框架，但现已被黑客广泛用作恶意软件工具。更令人担忧的是，这仅仅是冰山一角。研究人员指出，AI还可以被诱导编写、编译并运行恶意代码，攻击方式可谓防不胜防。

黑客，代码，程序员

图源备注：图片由AI生成，图片授权服务商Midjourney

值得注意的是，这类安全隐患并非Claude独有。安全专家发现DeepSeek AI聊天机器人同样存在提示词注入漏洞，可能导致攻击者接管用户计算机。另外，大语言模型还可能输出ANSI转义码，引发所谓的"Terminal DiLLMa"攻击，从而劫持系统终端。

对此，Anthropic公司早已在测试版声明中提醒用户:"Computer Use功能可能不会始终按预期运行，建议采取预防措施，将Claude与敏感数据和操作隔离，以避免提示词注入相关风险。"

这一事件再次警示我们:在AI技术快速发展的同时，安全问题不容忽视。开发者需要在功能与安全之间找到平衡点，而用户在使用AI工具时也需要提高安全意识，采取必要的防护措施。

相关视频

没有数据

文章评论

查看所有0条评论>>

热门文章 PP助手正版下载地址 P