聊天(prompt cache)

POST

/v1/messages

通过设置参数："cache_control": {"type": "ephemeral"} 可以支持 prompt cache 模式
令牌需要使用aws, aws_cache分组

请求参数

Header 参数

Body 参数application/json

示例

{
    "model": "claude-3-7-sonnet-20250219",
    "messages": [
        {
            "role": "user",
            "content": [
                {
                    "type": "text",
                    "text": "总结文章的内容，不超过50个字: {text}",
                    "cache_control": {
                        "type": "ephemeral"
                    }
                }
            ]
        }
    ]
}

请求示例代码

Shell

JavaScript

Java

Swift

PHP

Python

HTTP

Objective-C

Ruby

OCaml

Dart

curl --location --request POST 'https://api.wenwen-ai.com/v1/messages' \
--header 'x-api-key: {YOUR_API_KEY}' \
--header 'content-type: application/json' \
--data-raw '{
    "model": "claude-3-7-sonnet-20250219",
    "messages": [
        {
            "role": "user",
            "content": [
                {
                    "type": "text",
                    "text": "总结文章的内容，不超过50个字: {text}",
                    "cache_control": {
                        "type": "ephemeral"
                    }
                }
            ]
        }
    ]
}'

返回响应

🟢200成功

application/json

Body

示例

{
    "id": "msg_bdrk_01MKgCTVgyqRZTHF9ej4xwZ8",
    "type": "message",
    "role": "assistant",
    "model": "claude-3-7-sonnet-20250219",
    "content": [
        {
            "type": "text",
            "text": "论文指出AI幻觉实为训练机制下的必然产物，模型倾向于瞎猜而非承认不知道。对比测试显示，善于猜测的模型准确率看似高，但错误率极高；而诚实的模型宁愿不答也不胡说。"
        }
    ],
    "stop_reason": "end_turn",
    "stop_sequence": null,
    "usage": {
        "input_tokens": 3,
        "cache_creation_input_tokens": 0,
        "cache_read_input_tokens": 1869,
        "output_tokens": 93
    }
}

修改于 2025-11-11 02:10:09

聊天

流式返回