无限制 AI 生产清单

验证端点兼容性

确认客户端库连接到正确的基础 URL 是第一步。我们的服务提供标准的 /v1/chat/completions 端点完全镜像 OpenAI 的结构。这意味着您可以在现有 SDK 配置中交换基础 URL，而无需重写核心逻辑。

• 使用 https://api.hereticproject.com/v1 作为您的基础 URL。
• 发送请求至 POST /v1/chat/completions.
• 通过 GET /v1/models.

不要假设存在其他端点。我们不提供嵌入、图像或音频生成。如果你的应用程序依赖于多模态输入，这个单模型 API 可能不适合你的需求。坚持使用文本输入、文本输出的工作流以获得最佳结果。

测试上下文窗口限制

我们的模型支持 100,000 个 token 的上下文窗口，允许保留大量的对话历史或处理大型文档。此限制适用于输入 token 和输出 token 的总和。您可以保留大量先前的对话而不会丢失连贯性。

在设计应用程序时，确保准确跟踪令牌使用情况。如果超出限制，API 将返回错误。使用最终流式传输块中的令牌使用数据实时监控您的消耗情况。这有助于您保持在预算内，避免对话历史意外截断。

检查令牌输出约束

每个请求最多可返回 16,000 个 token 的输出。如果您未指定 max_tokens 参数，默认限制为 2,048 个标记。此约束可确保一致的性能和可预测的延迟，从而为您的用户提供服务。

对于长篇创意写作或详细的代码生成，始终设置 max_tokens 参数。这可防止模型因空间不足而在句子中间截断。您也可以设置较低的限制以控制成本，如果只需要短回复的话。API 按实际使用量收费，因此精确控制有助于管理预存积分。

启用流式传输以优化用户体验

通过服务器发送事件（SSE）进行流式传输通过按生成顺序交付令牌，提供了更流畅的用户体验。这降低了感知延迟，尤其是对于较长的响应。流的最后一个块包含总令牌使用情况，允许您即时更新计费仪表板。

在前端或后端服务中实现流式客户端。正确处理部分令牌以避免破坏 UI。这种方法对于期望即时反馈的聊天界面至关重要。如果没有流式传输，用户可能需要等待几秒钟才能获得完整响应，从而导致体验不佳。

验证函数调用

API 支持函数调用（工具）和工具选择，使您的应用程序能够与外部系统交互。您可以在请求中定义工具，并让模型决定何时使用它们。这对于构建能够获取数据、更新数据库或执行计算的应用程序至关重要。

确保您的工具定义与预期的 JSON 模式匹配。模型将在响应中返回工具调用，您必须执行这些调用并将其传回对话。此循环允许进行复杂的多步工作流。测试模型可能幻觉工具参数的边缘情况，以确保鲁棒性。

设置 JSON 模式以获取结构化数据

对于需要严格输出格式的应用，请使用 response_format 参数设置为 {"type": "json_object"}. 这强制模型返回有效的 JSON，这对于以编程方式解析数据至关重要。它减少了对复杂后处理或正则表达式提取的需求。

无论如何都要验证 JSON 输出，因为没有模型是完美的。然而，此模式显著提高了结构化数据提取的可靠性。用于直接从自然语言提示生成配置文件、数据库查询或 API 负载。

配置温度和 Top P

调整 temperature 和 top_p 控制模型的随机性。较低的值使输出更具确定性和专注性，而较高的值则鼓励创造力和多样性。由于模型具有无审查特性，即使在较低的温度下，它也可能产生多样的输出。

从 temperature 0.7 开始，以平衡创造力和连贯性。增加它可用于头脑风暴任务，或降低它用于事实检索。该 top_p 参数通过限制采样标记的概率质量来工作。尝试这些设置，以找到适合您特定用例的语气。

监控使用情况和成本

定价透明：输入 token 每 1M 收费 $0.15，输出 token 每 1M 收费 $0.50。您只为实际使用的部分付费，无月度订阅。错误和拒绝免费，因此您只为成功的响应付费。该模型非常适合对成本可预测性有高要求的大容量应用。

通过 API 响应跟踪您的 token 使用情况。由于额度是预付且永不过期的，您可以按需充值。没有月费意味着您无需为闲置容量付费。定期监控余额，以确保在高峰使用期有足够的额度。