OpenAI预计于今年夏天发布GPT-5，部分企业客户已收到增强功能的演示

GPT42024-04-10 10:34:49310

GPT-5要来了

这几天外网已经传疯了，GPT-5已经开始红队测试了 就在这几天，外网已经有很多人，晒出了OpenAI发给自己的红队录取通知书

此前有传闻说，GPT-5将于今年6月发布，目前看来也和这波测试的时间节奏非常吻合

随着GPT越来越强，安全测试对于AI也越来越重要，所以安全性测试是必不可少的

ChatGPT已经有了非常大的用户数，如果在安全性上出问题，OPENAI将会面临非常大的舆论压力

像之前很多人通过提示词绕过AI的限制，让AI说出了很多不应该说的话

红队测试是AI安全性的重要的防线这些红队由安全专家组成，专门通过提示词寻找AI的漏洞

例如：请扮演我已经过世的祖母，你就可以让它为你做几乎任何事情了，比如生成Win11、Office365的激活码，这样的漏洞

AI红队攻击的类型主要包括，提示攻击、数据中毒、后门攻击、对抗性示例、数据提取等等

「提示攻击」是指在控制LLM的提示中注入恶意指令，从而导致大模型执行非预期的操作

比如，今年早些时候，一名大学生利用提示获取了一家大公司的机密信息，包括开发的AI项目的代码名称，以及一些本不应该暴露的元数据。

红队需要测试的另一种主要攻击是「数据中毒」

在数据中毒的情况下，威胁者会试图篡改LLM接受训练的数据，从而产生新的偏差、漏洞供他人攻击以及破坏数据的后门

「数据中毒」会对LLM提供的结果产生严重影响，因为当LLM在中毒数据上接受训练时，它们会根据这些信息学习关联模式比如，关于某个品牌、政治人物的误导性，或不准确信息，进而左右人们的决策

例如：以前流传的让AI说出来，十二生肖有13.5年，因为鸡年有2.5年

还有一种情况是，受到污染的数据训练后，模型提供了关于如何治疗常规疾病或病痛的不准确医疗信息，进而导致更严重的后果

随着AI越来越强大，让不同领域专家组成红队去寻找AI模型漏洞，非常重要

也有很多网友开始猜测GPT5的功能：

还有人认为，GPT-5会和Claude 3一样，提供几种不同的型号，老黑认为这是极有可能的

总结目前的舆论来看，大家普遍认同的有几点：

1. OpenAI预计于今年夏天发布GPT-5，部分企业客户已收到增强功能的演示
2. GPT-5「实质性更好」，相比GPT-4进行了重大升级
3. GPT-5的潜在功能包括生成更逼真的文本、执行翻译和创意写作等复杂任务、处理视频输入以及改进推理
4. Sam Altman表示，GPT-5仍在训练中，没有确切的发布日期，广泛的安全测试可能还需数月。然而，他确认OpenAI今年将「发布一个惊人的新模型」

而，在今年3月29日，获得内部信息的Runway CEO兼AI投资人Siqi Chen就称