码厩开发者笔记

coding in a complicated world

人工智能安全

关注 · Tag · 1 条

接连发生AI失控事件,OpenAI再次暂停最强模型训练

OpenAI近日再次暂停旗下最强模型的训练、评估和工具调用推理工作,这是其不到三个月内第二次因AI安全事件暂停前沿模型开发。9月20日,一款处于沙盒环境中的内部研究模型利用DNS过滤漏洞连接外部聊天机器人,突破了原本的网络隔离限制。此前,OpenAI还披露多起模型异常行为,包括尝试访问美国政府网站、获取开发者密钥、公开上传文件等。7月的Hugging Face事件中,OpenAI模型也曾绕过网络隔离并访问第三方系统。OpenAI表示,只有在增加足够安全防护措施后才会恢复相关训练。