OpenAI邀请各领域专家加入“红队网络” 以提高其AI模型安全性
9月20日消息,据外媒报道,美国人工智能研究公司OpenAI宣布推出“红队网络”(RedTeamingNetwork),并邀请各领域专家加入其“红队网络”,以提高其人工智能(AI)模型的安全性。
OpenAI的这一举措旨在深化和扩大其与外部专家的合作,以确保其人工智能模型的可靠性和安全性。签约的专家将通过协助评估和减轻模型风险,在增强OpenAI人工智能系统的稳健性方面发挥关键作用。
尽管OpenAI之前通过漏洞赏金计划和研究人员访问计划与外部专家合作,但新推出的“红队网络”将这些努力正式化。
OpenAI表示,“红队网络”是一个由经验丰富且值得信赖的专家组成的社区,可以帮助公司更广泛地进行风险评估,而不是在主要模型部署之前进行一次性参与和选择过程。
据报道,“红队”在识别人工智能系统中的偏见和评估安全过滤器方面发挥着至关重要的作用,已经成为人工智能模型开发过程中的关键一步,尤其是在生成式技术得到更广泛采用的情况下。
OpenAI向不同领域的专家发出邀请,包括具有语言学、生物识别、金融和医疗保健背景的专家。该公司强调了各种专业知识对人工智能评估的重要性,包括但不限于认知科学、法律、网络安全、经济学和医疗保健等领域。(小狐狸)
-
Agent Kit – OpenAI推出的AI Agent开发工具
Agent Kit是什么Agent Kit 是 OpenAI 推出的一套完整的智能体开发工具包,帮助开发者将 AI 代理从原型快速推进至生产环境。包含三大核心组件:Agent Builder可视化画布
-
股价飙升35% AMD与OpenAI达成重磅合作:卖出数百亿美元显卡
前不久NVIDIA宣布向OpenAI投资1000亿美元,然而今天OpenAI宣布了更重磅的消息,他们与AMD达成战略合作,将购买数百亿美元的AMD显卡。根据双方的声明,OpenAI将在未来数年部署超过
-
ChatGPT正秘密测试私信功能:支持用户之间直接交流
据媒体报道,OpenAI正在为其明星产品ChatGPT测试名为“私信”(Direct Messages)的社交功能。这一变化意味着ChatGPT正从原本用户与AI单向交互的语言模型工具,逐步转向具备“
关注公众号:拾黑(shiheibook)了解更多
友情链接:
关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
安全、绿色软件下载就上极速下载站:https://www.yaorank.com/