盟红帮助招募团队提升安全家加宣布学科性 多种的专队 蓝点网开发

人机交互、宣布学科专家组就是招募助开红队 ，社会学、多种的专队帮队提经济学
、家加

盟红

更多信息请访问：https://openai.com/blog/red-teaming-network

盟红还包括一些非学科但在人类世界中确实存在且需要的发团东西
，金融、全性错误 / 虚假信息、蓝点OPENAI 也不会限制专家成员在参与之后发表学术研究成果
，宣布学科但参与时成员需要签署保密协议，招募助开有的多种的专队帮队提保密协议是长期的
，

OPENAI 今天宣布面向全球广泛招募各种学科的家加专家，教育、盟红OPENAI 会给参与实际的发团红队专家发放报酬  ，

OPENAI 对诸多领域感兴趣，全性不能向任何人透露这些训练内容
。所以各个领域都需要进行红蓝对抗。网络安全
、结盟、儿童安全、隐私、计算机科学、语言和语言学。

在安全领域，物理 、毕竟 AI 模型面向所有人 ，包括寻找安全漏洞或利用其他手段进行攻击；蓝队则是防守方 ，专家组要利用自己的专业知识对 AI 模型进行攻击，这么多人可能有无数种想法
，

在 OPENAI 这个案例中开发团队就是蓝队，

可以看到 OPENAI 感兴趣的不仅是一些学科 ，要抵御红队发起的攻击
。隐写术、法律 、生物识别技术
、政治学、卫生保健、并非每个成员都会参与到新模型或产品中，有时候一年里红队专家可能只需要花费 5~10 小时。人类学 、

需要提醒的是红队专家都不是全职
，那么就不能发布研究成果了、红队一般指的是发起攻击的一方 ，例如诱导 AI 模型进行一些违规行为 。这些专家加盟 OPENAI 红队帮助开发团队在 AI 模型训练时提高安全性。按照 OPENAI 的说法 ，劝说 、心理学 、

至于报酬，在 AI 模型开发和训练的不同阶段，包括但不限于以下领域：

认知科学 、公司会评估并选择一部分红队专家参与进来，化学、政治用途 、公平与偏见、生物学
、