# class OpenAICompatibleProvider(BaseAIProvider):
asyncdef generate_streaming_response(
    self,
    messages: List[AIMessage],
    **kwargs
) -> AsyncGenerator[str, None]:
    """
    生成流式AI響應(yīng)，支持深度思考內(nèi)容

    Args:
        messages: 對(duì)話歷史消息列表
        **kwargs: 其他參數(shù)

    Yields:
        str: 流式響應(yīng)內(nèi)容片段，包含類型標(biāo)識(shí)
    """
    try:
        # 格式化消息并構(gòu)建請(qǐng)求參數(shù)
        system_prompt = kwargs.get('system_prompt')
        formatted_messages = self.format_messages(messages, system_prompt)
        request_params = self._build_request_params(formatted_messages, stream=True, **kwargs)

        logger.info(f"調(diào)用{self.get_provider_display_name()}流式API - 模型: {request_params['model']}")

        # 調(diào)用流式API
        response = self.client.chat.completions.create(**request_params)

        chunk_count = 0
        import json

        for chunk in response:
            # 處理深度思考內(nèi)容
            if hasattr(chunk.choices[0].delta, 'reasoning_content') and chunk.choices[0].delta.reasoning_content:
                content = chunk.choices[0].delta.reasoning_content
                chunk_count += 1
                # 返回帶類型標(biāo)識(shí)的思考內(nèi)容
                yieldf"data: {json.dumps({'type': 'reasoning', 'content': content})}\n\n"

            # 處理普通回答內(nèi)容
            elif hasattr(chunk.choices[0].delta, 'content') and chunk.choices[0].delta.content:
                content = chunk.choices[0].delta.content
                chunk_count += 1
                # 返回帶類型標(biāo)識(shí)的回答內(nèi)容
                yieldf"data: {json.dumps({'type': 'content', 'content': content})}\n\n"

        logger.info(f"{self.get_provider_display_name()}流式響應(yīng)完成 - 塊數(shù): {chunk_count}")

    except Exception as e:
        logger.error(f"{self.get_provider_display_name()}流式響應(yīng)失敗: {e}")
        yieldf"抱歉，{self.get_provider_display_name()}流式服務(wù)暫時(shí)不可用：{str(e)}"

full_response = ""
    content_only_response = ""# 只保存 type: 'content' 的內(nèi)容
    chunk_count = 0
    asyncfor chunk in ai_manager.generate_streaming_response(
        messages=ai_messages,
        provider=provider,
        model=model,
        system_prompt=system_prompt
    ):
            if chunk:
                full_response += chunk
                chunk_count += 1
            # 解析chunk數(shù)據(jù)，只保留 type: 'content' 的內(nèi)容到Redis
            try:
                if chunk.startswith("data: "):
                    json_str = chunk[6:].strip()  # 移除 "data: " 前綴
                    if json_str:
                        chunk_data = json.loads(json_str)
                        # 只累積 type 為 'content' 的內(nèi)容用于保存到Redis
                        if chunk_data.get('type') == 'content'and'content'in chunk_data:
                            content_only_response += chunk_data['content']
            except (json.JSONDecodeError, KeyError) as e:
                # 如果解析失敗，按原來的方式處理（向后兼容）
                logger.debug(f"解析chunk數(shù)據(jù)失敗，使用原始內(nèi)容: {e}")
            yield chunk

    logger.info(f"流式響應(yīng)完成 - 用戶: {user_id}, 會(huì)話: {session_id[:8]}..., 塊數(shù): {chunk_count}, 總長度: {len(full_response)}, 內(nèi)容長度: {len(content_only_response)}")

    # 保存AI響應(yīng)（只保存 type: 'content' 的內(nèi)容）
    ai_msg = ChatMessage(
        role="assistant",
        cnotallow=content_only_response,  # 使用過濾后的內(nèi)容
        timestamp=time.time()
    )
    await save_message_to_redis(user_id, session_id, ai_msg)

// 項(xiàng)目中的實(shí)際前端處理邏輯
if (data.type === 'chunk' || data.type === 'content' || data.type === 'reasoning') {
    if (data.type === 'reasoning') {
        // 深度思考內(nèi)容
        if (!reasoningElement) {
            reasoningElement = document.createElement('div');
            reasoningElement.className = 'message-content reasoning-content';

            // 創(chuàng)建reasoning-body容器
            const reasoningBody = document.createElement('div');
            reasoningBody.className = 'reasoning-body';
            reasoningElement.appendChild(reasoningBody);

            // 將reasoning元素添加到消息容器的content wrapper中
            const contentWrapper = messageContainer.querySelector('.message-content-wrapper');
            contentWrapper.appendChild(reasoningElement);
        }
        reasoningMessage += data.content;
        ...
        scrollToBottom();

    } else {
        // 普通內(nèi)容
        if (!contentElement) {
            contentElement = document.createElement('div');
            contentElement.className = 'message-content';

            // 將content元素添加到消息容器的content wrapper中
            const contentWrapper = messageContainer.querySelector('.message-content-wrapper');
            contentWrapper.appendChild(contentElement);
        }
        contentMessage += data.content;
        ...
        scrollToBottom();
    }

    scrollToBottom();
}

python start_server.py

用戶：設(shè)計(jì)一個(gè)高效的排序算法