Mac调通 LLM API(OpenAI或DeepSeek),拿到流式输出
·
一、安装AI依赖库
命令:pip install openai

目的:给你的 Python 环境,安装【OpenAI 官方开发的专用调用工具包(SDK)】
简单说:装了它,调用 AI 模型像用手机打电话一样简单;不装它,你要自己铺电话线、造手机。
全球 90% 的主流大模型,都兼容这个 openai 工具包(厂商为了方便用户,直接套用了 OpenAI 的接口标准),分为两类:
-
OpenAI 官方全系模型(必须用这个库)
-
国内主流 AI 模型(兼容这个库,国内可直接用):只需要修改 API Key 和 Base URL,代码完全不变
二、利用Trae IDE编写调用LLM API代码
import os
from openai import OpenAI
# DeepSeek 兼容 OpenAI 格式,只需改 base_url
API_KEY = "XXXXX-your-key-XXXX"
BASE_URL = "XXXXX-your-model-URL-XXXX"
client = OpenAI(api_key=API_KEY, base_url=BASE_URL)
print("🤖 AI 回复:", end="", flush=True)
stream = client.chat.completions.create(
model="deepseek-v3.2", # OpenAI 用 "deepseek-v3.2" 等
messages=[
{"role": "user", "content": "用一句话介绍什么是大语言模型"}
],
stream=True, # ★ 关键:开启流式
temperature=0.7, # 控制输出的随机性,默认0.7
)
# 逐 chunk 取出 delta.content 并打印(模拟打字机效果)
for chunk in stream:
content = chunk.choices[0].delta.content
if content:
print(content, end="", flush=True)
print("\n✅ 完成")

更多推荐

所有评论(0)