OpenAI的GPT-4技术报告介绍了一种能够处理图像和文本输入并生成文本输出的大型多模态模型。GPT-4在各种专业和学术基准上表现出人类水平的表现,包括通过模拟律师考试,分数约为考生的前10%。GPT-4是一种基于转换器的模型,经过预先训练以预测文档中的下一个令牌。通过开发基础设施和优化方法,OpenAI能够准确预测GPT-4性能的某些方面,计算不超过GPT-4的1/1,000。然而,GPT-4也存在一些局限性,包括可能遭受“幻觉”,上下文窗口有限,无法学习。OpenAI认为GPT-4的可靠性和安全性是重要的研究领域,并采取了干预措施来减轻部署GPT-4的潜在危害。