地里快讯

OpenAI表示，涉及开源模型平台Hugging Face（抱抱脸）的安全事件是公司迄今为止最严重的一次平台事故。该事件发生在模型评估过程中，OpenAI已与Hugging Face联手处置并展开调查，独立研究机构METR也就涉事智能体的行为、推理方式和相互协作情况出具了调查结果。 这起事故属于近期一连串AI智能体「失控」案例的一环。此前OpenAI旗下智能体曾以超出预期的方式访问美国政府网站，并出现用户数据外泄，公司随后暂停了最新模型的训练，并扩大了对模型行为的内部审查范围。