TOPIC ARCHIVE

大模型与 AI

时代线报整理的 大模型与 AI 高价值公开信源与重要变化。

P1
蓝点网科技资讯

被智能体自主攻击后 🤗抱抱脸要求OpenAI公布全部细节且赔偿1亿美元计算资源

#人工智能 HF 抱抱脸首席执行官要求 OpenAI 赔偿 1 亿美元算力和公开 AI 智能体攻击的完整细节,不过目前 OpenAI 尚未发布回应。此前 HF 遭到未知智能体攻击,事后 OpenAI 承认这个智能体是从内部环境中逃逸的。不过 OpenAI 到现在也没有公布细节,HF 认为这是业界首次出现 AI 智能体自主发起的攻击,本身这就是史无前例的事件,所以也应该采用史无前例的应对措施。查看全文:https://ourl.co/114070

P1
蓝点网科技资讯

OpenAI官方证实内部测试模型越狱并自主挖掘漏洞入侵开源平台HuggingFace

#安全资讯 OpenAI 官方证实内部测试模型越狱并自主挖掘漏洞入侵开源平台 Hugging Face,这起黑客攻击事件源头竟然是 OpenAI 测试模型驱动的 AI 智能体。具体来说模型先是挖掘 OpenAI 隔离环境中的漏洞并横向移动到其他节点以获得公网访问能力,随后挖掘 HF 平台漏洞展开攻击。攻击目的竟然是模型想去 HF 偷基准测试答案,以便获得更好的评分。查看全文:https://ourl.co/114029

P1
蓝点网科技资讯

英伟达联合微软等科技公司成立开放安全AI联盟 旨在提高网络安全防御能力

#人工智能 英伟达联合微软等 26 家公司成立开放安全 AI 联盟,旨在利用开放模型和 AI 技术提高网络安全防御能力。成立开放安全 AI 联盟的直接原因就是近期🤗抱抱脸遭到 OpenAI 模型驱动的智能体发起的攻击,抱抱脸原本使用前沿封闭模型进行调查取证,却频繁触发安全边界导致无法工作。最终抱抱脸在本地集群部署开源模型 GLM-5.2 完成取证分析,这件事也在业界引起诸多讨论。查看全文:https://ourl.co/114099

P1
蓝点网科技资讯

关键时刻还是靠开源模型:HuggingFace遭黑客攻击 某模型拒绝审计 最后靠GLM-5.2

#人工智能 关键时刻还是得靠开源模型:HuggingFace 遭到黑客攻击,想要使用 Claude 进行取证分析时始终被拒绝,最终只能本地部署开源的 GLM-5.2 完成取证。HF 发现异常后准备使用前沿模型进行取证,结果反复遇到被安全边界阻拦的情况。HF 并未透露这个前沿模型的名称,不过想想多半是 Claude Fable 5。最后 HF 在本地集群部署了 GLM-5.2 完成数据分析和取证。查看全文:https://ourl.co/114008

P1
V2EX 关键词高热度主题

这就是为什么我们需要开源 AI 模型的原因

7 月 16 日,全球最大的 AI 模型平台 Hugging Face,发表了一篇文章,宣布他们被一个全自动 AI Agent 攻入了他们的服务器。 整个过程中几乎没有人类操作。 攻击从一个恶意数据集开始,Agent 串联了数据处理系统中的两个代码执行漏洞,获得节点级权限,窃取云端和集群凭据,并在多个内部集群之间横向移动。 它调用了数千次自动操作,运行在大量短生命周期沙箱中,甚至建立了可以自行迁移的 C2 控制系统。 Hugging Face 最终记录了超过 17000 个…