State of AI Report系列至今已经是第六个年头了，也成为了人工智能领域的风向标，这个报告是由业界领先的AI从业者撰写，除了总结过去，也会对未来发展进行很多预测。今年的State of AI报告，汇总和聚焦了过去一年里AI行业中炙手可热的事件，报告中援引的数据，都来自于知名的科技公司和研究小组。报告从研究进展、行业局势、现有政策、安全问题、未来预测五个维度出发，对最新的AI发展现状和未来预期进行了深度分析。

报告原文地址：https://www.stateof.ai/

报告称，OpenAI的GPT-4在发布八个月后仍然是最强的大语言模型（LLM），“在经典基准测试和旨在评估人类的考试中都击败了所有其他大模型”。

下面是这份报告的要点内容。

1、研究进展

• GPT-4 登场，展示了专有技术与次优开源替代方案之间的能力鸿沟，同时也验证了通过人类反馈进行强化学习的威力；
• 在 LLaMa-1/2 的支持下，越来越多的人试图用更小的模型、更好的数据集、更长的上下文来克隆或击败专有模型；
• 目前还不清楚人类生成的数据能维持人工智能扩展趋势多久（有人估计，到 2025 年，数据将被 LLM 耗尽），也不清楚添加合成数据会产生什么影响。企业中的视频和数据可能是下一个目标；
• LLM 和扩散模型通过为分子生物学和药物发现带来新的突破，继续为生命科学界提供助力；
• 多模态成为新的前沿，各种智能体热度大大增加。

2、行业局势

• 英伟达凭借各国、初创公司、大型科技公司和研究人员对其 GPU 的巨大需求，跻身市值万亿美元俱乐部；
• 主要芯片供应商开发了不受出口管制影响的替代产品；
• 在 ChatGPT 的带领下，GenAI 的应用程序在图像、视频、编码、语音或 CoPilots 等领域取得了突破性的进展，带动了 180 亿美元的风险投资和企业投资。

3、政策影响

• 世界已划分出明确的监管阵营，但全球治理的进展仍较为缓慢，最大的人工智能实验室正在填补这一空白；
• 据预测，人工智能将影响一系列敏感领域，包括选举和就业，但我们还没有看到显著的影响。

4、安全问题

• 关于生存风险的讨论首次进入主流，并明显加剧；
• 许多高性能的模型很容易「越狱」，为了解决 RLHF 的挑战，研究人员正在探索替代方案，例如自对齐（self-alignment）和带有人类偏好的预训练；
• 随着模型性能的提升，一致地评估 SOTA 模型变得越来越困难。

文本附上由腾讯科技翻译的中文版报告。

‍