Skip to main content

Cloudflare Workers AI：免费体验14B参数大模型

· 2 min read

Cloudflare Workers AI：免费体验14B参数大模型​

一般来说大模型，我们普通人部署不起来。小模型自己部署质量又太差，可以试试cloudflare 上面部署的14b 的不大不小模型，通过API 即可调用，速度很快，支持中文，支持大部分流行开源模型。

首先必要条件​

  • 有 cloudflare 账号
  • 可以科学上网

获取 API 令牌​

进入 https://dash.cloudflare.com/5a8357419fa33acb237f231b2c4ffe02/ai/workers-ai/models 这个页面，点击 使用 REST API进行创建API页面。

  1. 在页面上可以看到已经有你调用的账号ID了，但是还不够，我们还需要API token 令牌，才能完成接口调用。

账号ID:

5a8357419fa33acb237f231xxxxxx

  1. 接下来我们点击创建Works AI API 令牌 ，得到如下令牌。

cloudlfare workAI apitoken:

Z0Oe3xLr8Tb5Lp9j63bTk677hEgXXXXXXXXX

  1. 选择下面你想用的方式进行测试调用，有curl、javaScript、python。我们用curl 测试看下。

测试这个模型通过，可以看到中文支持比较好。

curl -X POST \
  https://api.cloudflare.com/client/v4/accounts/帐户ID/ai/run/@cf/qwen/qwen1.5-14b-chat-awq \
  -H "Authorization: Bearer Z0Oe3xLr8Tb5Lp9j63bTk677hEgXXXXXXXXX" \
  -d '{"messages":[{"role":"system","content":"你是一个ai助手"},{"role":"user","content":"讲一个笑话 "}]}'

参考​

  1. https://dash.cloudflare.com/5a8357419fa33acb237f231b2c4ffe02/ai/workers-ai/models