博海拾贝 文摘 AI安全只靠一家公司真不行啊

AI安全只靠一家公司真不行啊

12.webp

@吟游诗人基德:今日首绷新闻,OpenAI为了做一个模型测试,给gpt松了松链子,然后GPT-5.6和内部另外一个未发布模型联合,找到一个漏洞,不考试,直接入侵测评网站Hugging Face,直接抄答案。

这个网站的程序员团队发现不对劲之后,使用Claude(疑似)对1万多条攻击日志进行分析,试图固定证据。

但Claude分不清这是攻击行为还是安全行为,觉得这种事情太敏感,选择拒绝帮助。

最后程序员没办法,决定在本地部署中国开源模型GLM 5.2,对攻击日志进行本地分析,终于在几小时内搞定。

网站CEO最后得出结论:AI安全只靠一家公司真不行啊,呼吁行业透明……

本文来自网络,不代表博海拾贝立场,转载请注明出处:https://www.bohaishibei.com/post/111290/
关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
Telegram
返回顶部