Anthropic是一家著名的AI研究公司，致力于开发可靠，可解释和可辨的AI系统，已宣布在其Claude AI助理方面取得了重大进步。克劳德（Claude）现在可以在单个请求中处理整个软件项目，这是由于其上下文窗口将其大幅增加到200,000代币而实现的能力。这种增强功能使Claude一口气分析和汇总了大量的代码和其他文本数据，这标志着大语言模型（LLMS）的功能的显着飞跃。
LLMS领域中的“上下文窗口”一词是指AI模型在生成响应时可以考虑的最大文本数量。较大的上下文窗口使该模型能够处理更多信息，从而导致更准确，相关和全面的输出。拟人化强调了这种扩展能力的实际含义，指出：“有了200k上下文窗口，您可以立即将大约500页的材料（或整本小说）提交给Claude。然后可以总结它，回答特定的问题等。”
就其可以同时处理的信息量而言，这种能力位置在许多其他领先的LLM之前提高了。例如，主要竞争对手OpenAI的GPT-4通常使用标准上下文窗口为8,192个令牌，仅适用于特定应用程序的32,768 token上下文窗口较大。
Anthropic报道说，早期访问用户已经利用Claude的200,000 token上下文窗口，用于各个部门的各种应用程序：
- 法律文件审查： 在法律领域，用户向克劳德（Claude）提交了数十万页的法律文件。 AI助手协助审查这些庞大的数据集，识别关键条款并指出潜在的问题，从而简化传统上需要大量人类努力的过程。
- 财务数据分析： 金融部门利用克劳德（Claude）来分析大量财务信息数据集。通过处理大量数据，Claude可以识别复杂的模式并获得有价值的见解，这对于战略决策和市场分析至关重要。
- 软件开发和代码分析： 对于开发人员而言，扩展上下文窗口特别有价值。用户现在可以将整个代码库上传到Claude。然后，AI可以进行全面的分析，通过识别错误或效率低下来协助调试，并对该代码功能的详细说明，从而大大帮助软件开发和维护。
- 聊天机器人质量改进： 较大的上下文窗口还提高了聊天机器人的质量和有效性。公司可以为Claude提供与其产品和服务有关的广泛而详细的知识库。这使AI能够更有益地回答客户问题，从而改善客户支持体验。
拟人化对这项技术的未来应用表示乐观，并指出：“我们很高兴看到用户将如何继续推动大型语言模型的可能性。”
Claude API的用户现在可以访问200,000 token上下文窗口。此外，Anthropic正在探索更具雄心勃勃的功能，为许多用户提供了测试实验性100万台上下文窗口的机会。这表明LLMS更大的处理能力具有明显的轨迹。
LLM的总体承诺是他们能够以准确性和实用性理解和对人类语言做出反应的能力。上下文窗口的扩展是实现这一承诺的关键一步，因为它可以解锁由于计算限制而导致的一系列用例和可能不切实际的潜在应用。但是，拟人化还承认，通过如此大的上下文窗口为LLM供电的LLM带来的重大挑战。
Source: 拟人化的克劳德将上下文窗口扩展到200,000个令牌
