REST API


Ollama提供了一个RESTful API，允许开发者通过HTTP请求与Ollama服务进行交互。这个API覆盖了所有Ollama的核心功能，包括模型管理、运行和监控。

常用API端点


生成响应：

POST /api/generate


模型聊天：

POST /api/chat


使用示例
 

curl -X POST http://localhost:11434/api/generate -d '{"model":"my_model","prompt":"Hello, world!"}'


通过这些库和工具，Ollama为开发者提供了灵活且强大的接口，使得集成和使用大型语言模型变得更加简单和高效。

 

# aws # 架构
Logo
https://edu.csdn.net/learn/39067/627173?utm_source=2019755004

汇聚全球AI编程工具，助力开发者即刻编程。

更多推荐

让 Agent 说得少做得对：输出压缩与行动优先的提示策略

各位正在探索大模型应用落地的开发者、产品经理、甚至AI爱好者们，想必都遇到过这样令人抓狂的场景：你给Agent（比如Claude 3 Opus的代码助手插件、LangChain构建的知识库检索Agent、甚至是企业内部定制的办公助手）下达了一条清晰的指令：过了5秒钟（已经是GPT-4o mini级别Agent的“长思考时间”了），你收到了这样一段回复：这段回复，单论内容质量，其实挺高的——它考虑了

avatar AI编程社区
cover

25.TCO 成本测算：训练与推理的完整成本模型

avatar AI编程社区

AI Agent Harness Engineering 的“黑箱”拆解：使用 LangSmith 进行全链路追踪与可视化

核心概念：AI Agent Harness Engineering（，下文简称）是 2023-2024 年大语言模型（LLM）、多模态模型（MMM）技术落地企业级复杂任务时的核心分支之一——它不再满足于让单个 LLM 执行简单的问答、文本生成，而是设计、开发、调试、部署、监控、迭代。问题背景：2022 年底 ChatGPT 的发布让“LLM 通用智能”的想象空间爆发，但当开发者和企业尝试将其应用到

avatar AI编程社区