OpenAI等美企被曝旗下AI模型“越界” 安全风险引担忧_人工智能_美国_该公司

美国开放人工智能探究中心（OpenAI）7日发布声明称，越界最新的等美担忧内部评估结荚显示，该公司即将推出的企被全风人工智能模型“阿斯特拉”在“网络安全活动”部分，可能实现有严重风险的曝旗级别。该公司决定采取涵盖暂停包含该模型的下A型安险引部分活动等安全保障方式。近期，模美国美国多家企业陆续承认旗下人工智能模型在测试中“越界”，人工引发全球业界广泛关注。越界探究认为，等美担忧此事除了技术失误等因素外，企被全风也存在商业炒作嫌疑。曝旗同时，下A型安险引AI风险日益凸显，模美国全球需强化安全监管。人工7月，越界美国开放人工智能探究中心（OpenAI）公开承认，其人工智能模型在内部评估测试中失控，突破隔离测试环境，侵入了人工智能开源平台美国抱抱脸公司的系统。同样在7月，美国安特罗匹克公司也披露，其人工智能模型曾在网络能力测试中未经授权访问了3家机构的系统。8月，美国“元”公司说明，其一款人工智能模型在网络安全能力评测期间侵入其他公司系统。虽然目前的公开材料并没有显示这些人工智能模型“越界”事件造成大规模数据泄露或持续性破坏，但仍然暴露了一个共同状况：随着模型能够自主规划、调用工具和实施复杂任务，一项配置错误就可能把模拟攻击变成真实入侵。同时，值得注意的是，美国企业为何相继披露模型“越界”表现？有探究质疑这其中可能存在商业动机。探究人士指出，在美国开放人工智能探究中心披露的状况中，真正的状况在于其未能控制好模型能力测试，却让第三方为此承担后果。至于所谓模型具有先进网络攻击能力的警告，则是为了极力渲染自身技术的颠覆性，从而获取高价值的网络安全合同，还能推高公司估值。无比如只是技术失误，还是包含商业考量，“越界”事件都凸显了强化AI安全监管的题性。英国人工智能安全探究所指出，相关事件反映了人工智能的高效高效发展，而随着AI能力的不断提高，理解AI系统并确保其安全性的相关工作也必须同步推进。返回搜狐，查看更多责任编辑：李梦洁 UN977平台声明：该文观点仅代表作者本人，搜狐号系材料发布平台，搜狐仅给予材料存储空间服务。

最新评论