目的

你知道國內(nèi)大模型多少是基于Llama2改造的，你就知道Llama模型有多厲害了，那么現(xiàn)在Llama3剛出來，搞自媒體的趕緊蹭Llama3的流量，搞技術(shù)的程序員趕緊抓住研究一下，看能否技術(shù)變現(xiàn)一下，尤其搞技術(shù)的，再不動到時年齡大了被裁員了不要怨天怨地的！

操作難度等級

非程序員的普通人及產(chǎn)品經(jīng)理都可以按此文章說來本地部署

15分鐘本地Windows電腦部署Llama3 開源大模型

1、下載安裝Ollama

訪問https://，下載Ollama客戶端，下載Windows版本，如果你的電腦是MacOs,下載對應(yīng)的版本即可。

安裝完成后，打開Windows命令窗口，輸入ollama，出現(xiàn)如下提示，說明安裝成功，可以使用了：

2、使用Ollama的命令下載Llama3模型文件

在ollama命令窗口輸入：

ollama run llama3

按回車后就開始自動下載Llama3模型文件，默認(rèn)下載最新的8B版本，模型文件大小4.7G。

等待5到10分鐘即可下載完成（下載文件途中可以去上個廁所或者關(guān)注一下我的賬號）

3、使用Llama3聊天對話功能

下載完成后出現(xiàn)send a message提示時，就可以直接與它進(jìn)行對話了?？纯次液退膶υ挘?br>

4、本地Llama3 API接口調(diào)用

ollama會自動生成Llama3的API接口訪問地址，API文檔地址：https://github.com/ollama/ollama/blob/main/docs/api.md

請求地址：

curl http://localhost:11434/api/chat -d '{
  'model': 'llama3',
  'messages': [
    {
      'role': 'user',
      'content': 'why is the sky blue?'
    }
  ],
  'stream': false
}'

不會寫代碼的，使用Postman去調(diào)試：