OpenAI 保障流程的一个关键部分是 “红队”--一种结构化方法，使用人类和人工智能参与者来探索新系统中的潜在风险和漏洞。从历史上看，OpenAI 主要通过人工测试参与 “红队 ”工作，即由个人探查薄弱环节。2022 年初，OpenAI 在测试 DALL-E 2 图像生成模型时就采用了这一方法，邀......
