安装和配置

Q: 如何选择合适的 RWKV 模型？

A: 选择模型时需要考虑以下因素：

• 模型大小: 更大的模型通常性能更好，但需要更多内存
• 语言支持: 选择支持您目标语言的模型
• 用途: 不同模型针对不同任务优化（对话、代码生成、翻译等）

推荐模型：

• 入门: RWKV-7-1B5
• 平衡: RWKV-7-2.9B
• 高性能: RWKV-7-7.2B

Q: 内存不足怎么办？

A: 可以尝试以下解决方案：

1. 使用更小的模型
2. 减少 max_tokens 参数
3. 启用模型量化
4. 使用 GPU 加速

use rwkv_agent_kit::agent::{AgentConfig, InferenceParams};

let inference_params = InferenceParams {
    max_tokens: 1024, // 减少最大令牌数
    temperature: 0.7,
    top_p: 0.9,
    ..Default::default()
};

let config = AgentConfig {
    name: "chat".to_string(),
    prompt_template: "你是一个有用的AI助手。".to_string(),
    inference_params,
    ..Default::default()
};

Q: 如何配置 GPU 加速？

A: 项目默认使用 wgpu 进行 GPU 加速，无需额外配置 CUDA。wgpu 会自动检测并使用可用的 GPU：

use rwkv_agent_kit::rwkv::ModelConfig;

// GPU配置在ModelConfig中设置
let model_config = ModelConfig {
    device: "gpu".to_string(), // 使用GPU，或 "cpu" 强制使用CPU
    ..Default::default()
};

// 在RwkvAgentKitConfig中使用
let kit_config = RwkvAgentKitConfig {
    model: model_config,
    ..Default::default()
};

使用问题

Q: 智能体响应很慢怎么办？

A: 优化性能的方法：

1. 启用缓存:

// 缓存配置在数据库配置中设置
use rwkv_agent_kit::db::DatabaseConfig;

let db_config = DatabaseConfig {
    // 数据库配置包含缓存设置
    ..Default::default()
};

2. 调整生成参数:

use rwkv_agent_kit::agent::{AgentConfig, InferenceParams};

let inference_params = InferenceParams {
    max_tokens: 512,     // 减少生成长度
    temperature: 0.5,    // 降低随机性
    top_p: 0.8,         // 调整采样参数
    ..Default::default()
};

let config = AgentConfig {
    name: "chat".to_string(),
    prompt_template: "你是一个有用的AI助手。".to_string(),
    inference_params,
    ..Default::default()
};

3. 使用并发处理:

// 使用tokio并发处理多个请求
let futures: Vec<_> = requests.into_iter()
    .map(|req| kit.chat("chat", &req))
    .collect();
let responses = futures::future::join_all(futures).await;

Q: 如何处理中文乱码？

A: 确保使用支持中文的模型和正确的编码：

// 确保字符串使用 UTF-8 编码
let message = "你好，世界！";
let response = agent.chat(message).await?;

// 检查模型是否支持中文
if !agent.supports_language("zh") {
    eprintln!("当前模型不支持中文");
}

Q: 工具调用失败怎么办？

A: 检查以下几点：

1. 工具是否正确注册:

// 工具在AgentConfig中配置
let config = AgentConfig {
    name: "tool_agent".to_string(),
    prompt_template: "你是一个有工具的AI助手。".to_string(),
    tools: vec!["your_tool".to_string()], // 工具名称列表
    ..Default::default()
};

2. 参数格式是否正确:

// 确保工具参数符合 JSON Schema
fn parameters(&self) -> Value {
    serde_json::json!({
        "type": "object",
        "properties": {
            "param1": {"type": "string"}
        },
        "required": ["param1"]
    })
}

3. 错误处理:

match tool.execute(params).await {
    ToolResult::Success(result) => println!("成功: {}", result),
    ToolResult::Error(error) => eprintln!("工具错误: {}", error),
}

开发问题

Q: 如何调试智能体行为？

A: 启用详细日志和监控：

// 启用调试日志
let log_config = LogConfig {
    level: "debug".to_string(),
    file_path: Some("debug.log".to_string()),
    ..Default::default()
};
agent.configure_logging(log_config)?;

// 启用性能监控
let monitor = PerformanceMonitor::new();
agent.set_monitor(monitor);

// 获取详细统计信息
let stats = agent.get_detailed_stats().await?;

Q: 如何实现自定义记忆系统？

A: 实现 Memory trait：

use rwkv_agent_kit::agent::{AgentConfig, MemoryConfig};

// 配置记忆系统
let memory_config = MemoryConfig {
    enabled: true,
    top_k: 10,
    time_decay_factor: 0.95,
    semantic_clustering: SemanticClusteringConfig {
        enabled: true,
        min_cluster_size: 3,
        max_clusters: 50,
        similarity_threshold: 0.8,
    },
    ..Default::default()
};

let config = AgentConfig {
    name: "memory_agent".to_string(),
    prompt_template: "你是一个有记忆的AI助手。".to_string(),
    memory: memory_config,
    ..Default::default()
};

// 记忆会在对话过程中自动管理
let kit = RwkvAgentKit::builder()
    .add_agent(config)
    .build()
    .await?;

let response = kit.chat("memory_agent", "我喜欢喝咖啡").await?;

Q: 如何处理并发请求？

A: 使用 Arc 和 Mutex 来共享智能体实例：

use std::sync::Arc;

// RwkvAgentKit本身就是线程安全的
let kit = Arc::new(RwkvAgentKit::builder()
    .add_default_agents()
    .build()
    .await?);

// 在多个任务中使用
let kit_clone = kit.clone();
tokio::spawn(async move {
    let response = kit_clone.chat("chat", "Hello").await?;
    // 处理响应
    Ok::<(), Box<dyn std::error::Error>>(())
});

性能优化

Q: 如何减少内存使用？

A: 几种优化策略：

1. 优化推理参数:

use rwkv_agent_kit::agent::{AgentConfig, InferenceParams};

let inference_params = InferenceParams {
    max_tokens: 512,     // 限制生成长度
    temperature: 0.5,    // 降低随机性
    top_p: 0.8,         // 调整采样参数
    ..Default::default()
};

let config = AgentConfig {
    name: "efficient_agent".to_string(),
    prompt_template: "你是一个高效的AI助手。".to_string(),
    inference_params,
    ..Default::default()
};

2. 限制记忆上下文:

use rwkv_agent_kit::agent::{AgentConfig, MemoryConfig};

let memory_config = MemoryConfig {
    enabled: true,
    top_k: 5,                    // 限制检索的记忆数量
    time_decay_factor: 0.9,      // 时间衰减因子
    ..Default::default()
};

let config = AgentConfig {
    name: "memory_limited_agent".to_string(),
    prompt_template: "你是一个内存优化的AI助手。".to_string(),
    memory: memory_config,
    ..Default::default()
};

3. 数据库优化:

// 通过数据库管理器进行优化
let kit = RwkvAgentKit::builder()
    .add_agent(config)
    .build()
    .await?;

// 定期清理旧记忆
kit.database_manager.cleanup_old_memories().await?;

Q: 如何提高响应速度？

A: 优化建议：

1. 预加载服务:

// 在构建时自动预加载RWKV服务
let kit = RwkvAgentKit::builder()
    .add_default_agents()
    .build()  // 这里会自动预加载所有必要的服务
    .await?;

2. 优化配置:

use rwkv_agent_kit::rwkv::ModelConfig;
use rwkv_agent_kit::db::DatabaseConfig;

// 优化模型配置
let model_config = ModelConfig {
    device: "wgpu".to_string(), // 使用GPU加速
    ..Default::default()
};

// 优化数据库配置
let db_config = DatabaseConfig {
    // 数据库优化设置
    ..Default::default()
};

let kit_config = RwkvAgentKitConfig {
    model: model_config,
    database: db_config,
    agents: vec![],
};

3. 并发处理:

use std::sync::Arc;

// RwkvAgentKit支持并发访问
let kit = Arc::new(RwkvAgentKit::builder()
    .add_default_agents()
    .build()
    .await?);

// 并发处理多个请求
let futures: Vec<_> = requests.into_iter()
    .map(|req| {
        let kit_clone = kit.clone();
        async move { kit_clone.chat("chat", &req).await }
    })
    .collect();
let responses = futures::future::join_all(futures).await;

错误处理

Q: 常见错误代码含义？

A: 主要错误类型：

• ModelLoadError: 模型加载失败
• TokenizerError: 分词器错误
• GenerationError: 文本生成错误
• ToolExecutionError: 工具执行错误
• DatabaseError: 数据库操作错误

use rwkv_agent_kit::error::MemoryError;

match kit.chat("chat", "Hello").await {
    Ok(response) => println!("{}", response),
    Err(e) => {
        // 根据实际的错误类型进行处理
        if let Some(memory_error) = e.downcast_ref::<MemoryError>() {
            match memory_error {
                MemoryError::DatabaseError(_) => eprintln!("数据库错误"),
                MemoryError::SerializationError(_) => eprintln!("序列化错误"),
                MemoryError::IoError(_) => eprintln!("IO错误"),
                _ => eprintln!("其他记忆错误: {}", memory_error),
            }
        } else {
            eprintln!("其他错误: {}", e);
        }
    },
}

部署问题

Q: 如何在生产环境中部署？

A: 生产部署建议：

1. 使用 Docker:

FROM rust:1.70
WORKDIR /app
COPY . .
RUN cargo build --release
CMD ["./target/release/your-app"]

2. 配置监控:

// 通过错误处理器进行监控
let kit = RwkvAgentKit::builder()
    .add_default_agents()
    .build()
    .await?;

// 获取错误处理器进行监控
let error_handler = &kit.error_handler;
// 可以添加自定义错误处理逻辑

3. 负载均衡:

use std::sync::Arc;

// RwkvAgentKit本身支持并发，可以共享实例
let kit = Arc::new(RwkvAgentKit::builder()
    .add_default_agents()
    .build()
    .await?);

// 在多个服务中共享同一个实例
let kit_for_service1 = kit.clone();
let kit_for_service2 = kit.clone();

// 每个服务可以并发处理请求
tokio::spawn(async move {
    // 服务1的处理逻辑
    let response = kit_for_service1.chat("chat", "Hello").await?;
    Ok::<(), Box<dyn std::error::Error>>(())
});

如果您遇到其他问题，请查看 GitHub Issues 或提交新的问题报告。