av 巨乳 Llama3腹地部署及API接口腹地调试,15分钟处治最新Meta AI开源大模子腹地Windows电脑部署

发布日期:2024-10-27 09:39    点击次数:141

av 巨乳 Llama3腹地部署及API接口腹地调试,15分钟处治最新Meta AI开源大模子腹地Windows电脑部署

著作目次 方向操作难度等第15分钟腹地Windows电脑部署Llama3 开源大模子1、下载装配Ollama2、使用Ollama的敕令下载Llama3模子文献3、使用Llama3聊天对话功能4、腹地Llama3 API接口调用 方向

你知谈国内大模子若干是基于Llama2立异的,你就知谈Llama模子有多横蛮了,那么当今Llama3刚出来,搞自媒体的马上蹭Llama3的流量,搞技艺的措施员马上收拢谈判一下,看能否技艺变现一下av 巨乳,尤其搞技艺的,再不动到时年级大了被裁人了不要怨声载道的!

操作难度等第

非措施员的平常东谈主及居品司理皆不错按此著作说来腹地部署

15分钟腹地Windows电脑部署Llama3 开源大模子 1、下载装配Ollama

看望https://ollama.com,下载Ollama客户端,下载Windows版块,要是你的电脑是MacOs,下载对应的版块即可。

装配完成后,绽开Windows敕令窗口,输入ollama,出现如下请示,阐明装配告捷,不错使用了:

图片av 巨乳

2、使用Ollama的敕令下载Llama3模子文献

在ollama敕令窗口输入:av 巨乳

ollama run llama3

按回车后就开动自动下载Llama3模子文献,默许下载最新的8B版块,模子文献大小4.7G。

恭候5到10分钟即可下载完成(下载文献途中不错去上个茅厕鄙俚海涵一下我的账号)

图片

3、使用Llama3聊天对话功能

下载完成后出现send a message请示时,就不错平直与它进行对话了。望望我和它的对话:

图片

4、腹地Llama3 API接口调用

ollama会自动生成Llama3的API接口看望地址,API文档地址:https://github.com/ollama/ollama/blob/main/docs/api.md

申请地址:

curl http://localhost:11434/api/chat -d '{
  'model': 'llama3',
  'messages': [
    {
      'role': 'user',
      'content': 'why is the sky blue?'
    }
  ],
  'stream': false
}'

不会写代码的,使用Postman去调试:

图片

激情 本站仅提供存储工作,统共本色均由用户发布,如发现存害或侵权本色,请点击举报。


Powered by 桃乃木香奈 黑丝 @2013-2022 RSS地图 HTML地图

Copyright Powered by站群 © 2013-2024