av 巨乳 Llama3腹地部署及API接口腹地调试,15分钟处治最新Meta AI开源大模子腹地Windows电脑部署
发布日期:2024-10-27 09:39 点击次数:141
著作目次
方向操作难度等第15分钟腹地Windows电脑部署Llama3 开源大模子1、下载装配Ollama2、使用Ollama的敕令下载Llama3模子文献3、使用Llama3聊天对话功能4、腹地Llama3 API接口调用
方向
你知谈国内大模子若干是基于Llama2立异的,你就知谈Llama模子有多横蛮了,那么当今Llama3刚出来,搞自媒体的马上蹭Llama3的流量,搞技艺的措施员马上收拢谈判一下,看能否技艺变现一下av 巨乳,尤其搞技艺的,再不动到时年级大了被裁人了不要怨声载道的!
操作难度等第非措施员的平常东谈主及居品司理皆不错按此著作说来腹地部署
15分钟腹地Windows电脑部署Llama3 开源大模子 1、下载装配Ollama看望https://ollama.com,下载Ollama客户端,下载Windows版块,要是你的电脑是MacOs,下载对应的版块即可。
装配完成后,绽开Windows敕令窗口,输入ollama,出现如下请示,阐明装配告捷,不错使用了:
图片av 巨乳
2、使用Ollama的敕令下载Llama3模子文献在ollama敕令窗口输入:av 巨乳
ollama run llama3
按回车后就开动自动下载Llama3模子文献,默许下载最新的8B版块,模子文献大小4.7G。
恭候5到10分钟即可下载完成(下载文献途中不错去上个茅厕鄙俚海涵一下我的账号)
图片
3、使用Llama3聊天对话功能下载完成后出现send a message请示时,就不错平直与它进行对话了。望望我和它的对话:
图片
4、腹地Llama3 API接口调用ollama会自动生成Llama3的API接口看望地址,API文档地址:https://github.com/ollama/ollama/blob/main/docs/api.md
申请地址:
curl http://localhost:11434/api/chat -d '{ 'model': 'llama3', 'messages': [ { 'role': 'user', 'content': 'why is the sky blue?' } ], 'stream': false }'
不会写代码的,使用Postman去调试:
图片
激情 本站仅提供存储工作,统共本色均由用户发布,如发现存害或侵权本色,请点击举报。