硬核观察 #996 数千名黑客将寻找 AI 大模型的缺陷

数千名黑客将寻找 AI 大模型的缺陷

今年的 DEF CON 将于 8 月在美国拉斯维加斯举行，期间将邀请数千名黑客对合作的 AI 服务，如 OpenAI、谷歌等的大型语言模型中寻找缺陷，比如代码中的传统错误，以及机器学习中更具体的问题，如偏见、幻觉和越狱。活动组织者称，这是“有史以来任何人工智能模型的最大规模的红队演习”。该活动将有一个夺旗式的积分系统，以促进对 “广泛的危害” 的测试，获得最多积分的人将赢得一块高端的英伟达 GPU。

消息来源：The Register

老王点评：目前看起来，不只是 AI 本身存在一些不足，其在安全性方面的考虑可能还远远不足。

AMD 计划采用开源固件 openSIL

AMD 平台上现在使用 AGESA 固件来初始化多个子系统，其中包括处理器核心、芯片组和内存。AMD 计划在整个 AMD CPU 产品堆栈中采用开源新固件 openSIL，到 2026 年做好投产准备。新的开源固件用标准工业语言编写，允许静态链接到主机固件，通过将开发、架构和验证开源以增强安全性。 AMD 称，openSIL 不只是代码开源，而且其规范也是公开的。openSIL 不是为了取代 UEFI，而是与其它主机固件如 Coreboot 整合。

消息来源：Phoronix

老王点评：很高兴看到 AMD 能采用开源固件，这会对开放硬件、自由硬件有很大的帮助。

Cloudflare 反对欧盟提出的网络使用费

大部分通过电信运营商网络的内容来自于内容和应用提供商（CAP），比如 Netflix 和 YouTube 等，它们将数据注入世界的网络，让运营商将其传递给用户。电信公司抱怨说，他们在新的网络上花费数十亿美元，而 CAP 们则从中渔利。因此，欧盟考虑向 CAP 们收取“网络使用费”。大科技公司认为它已经为海底电缆和其他网络基础设施付费，因而反对此提案。而 Cloudflare 担心，这样会导致对过境网络设定价格，也就是说会影响 CDN 服务商，因此也决定反对。

消息来源：The Register

老王点评：虽然说谁受益，谁付费。但是没道理让 CAP 们在买了带宽之后，还需要额外付费，我觉得这挺像“机场建设费”。