大模型AI運用——AgentScope
作者：甄毅偉
隨著人工智能技術的不斷進步，AI在運維領域的應用已經成為提升效率和降低成本的關鍵因素。通過復雜工具調用，AI也能夠處理大量的日志數據，快速定位問題根源，為運維團隊提供決策支持。
隨著人工智能（AI）技術的飛速發展，其在各行各業的應用越來越廣泛，尤其是在IT運維領域，AI的應用正逐漸改變著傳統的工作模式。本文將講述如何在我們本地來部署一個我們自己的ai小助手。
文中所運用的工具
- AgentScope：一款全新的Multi-Agent框架，專為應用開發者打造，提供高易用、高可靠的編程體驗，支持純Python編程，內置豐富的API。
- LLM：模型選擇的是開源模型Llama3。
- conda：用于創建Python環境，便于管理。
conda安裝
conda安裝
URL: https://repo.anaconda.com/archive/Anaconda3-2024.06-1-Linux-x86_64.sh
bash Anaconda3-2024.06-1-Linux-x86_64.sh #下載好后回車yes即可
ln -s /root/anaconda3/bin/conda /usr/bin/conda
conda create --name python-3.12 python=3.12.7 #創建python環境
conda activate python-3.12 #切換環境Llama3本地部署啟動
通過ollama進行本地部署和啟動
- RAM：Llama 3 8B至少16GB
- 執行以下命令，默認下載的是8B版本
ollama下載地址：https://ollama.com/
ollama run llama3:latest注意：如果沒有ollama命令，需要配置環境變量。
Agentscope安裝
需要安裝Python 3.9或更高版本。
源碼安裝：
# 從GitHub上拉取AgentScope的源代碼
git clone https://github.com/modelscope/agentscope.git
cd agentscope
# 安裝需要的Python 包
pip install -e .
#創建供自己調整的目錄
mkdir AI
準備模型配置和初始化注冊Agentscope-test.py
### cd AI
### vim Agentscope-test.py
# -*- coding: utf-8 -*-
import agentscope
from agentscope.agents import DialogAgent, UserAgent
from agentscope.message import Msg
# 模型配置
model_configs_name = "test-llama3"
model_configs = [
{
"config_name": "test-llama3",
"model_type": "ollama_chat",
"model_name": "llama3:latest",
"host": "192.168.100.134:11434" # ollama所在服務器的IP和端口，端口默認11434
}
]
#初始化agentscope
agentscope.init(model_configs = model_configs, project = "test-1", studio_url="http://0.0.0.0:5000")
#初始化agent
dialogAgent = DialogAgent(name="小助手", model_config_name=model_configs_name, sys_prompt="你是一個AI小助手")
user = UserAgent(name="User")
x = None
while True:
if x is not None and x.content == "exit":
break
x = user(x)
x = dialogAgent(x)啟動Agentscope Studio
AgentScope Studio是一個開源的Web UI工具包，用于構建和監控多智能體應用程序。可以通過運行以下Python代碼啟動。
### vim start_studio.py
import agentscope
agentscope.studio.init(
host="0.0.0.0",
port=5000
)不設置host和port，studio默認訪問路徑為127.0.0.1。
啟動Agent
#啟動Agentscope Studio
nohup python start_studio.py &
#啟動Agent
python Agentscope.py訪問Studio，進入dashboard就可以看到啟動的agent了。
以上使用的是Agentscope中的DialogAgent，可以完成類似客服機器人的需求，除此之外，他還有ReActAgent 這種能夠調用工具方法，可以根據我們的需求自行開發的agent，可以處理較為復雜的任務。
總結
隨著人工智能技術的不斷進步，AI在運維領域的應用已經成為提升效率和降低成本的關鍵因素。通過復雜工具調用，AI也能夠處理大量的日志數據，快速定位問題根源，為運維團隊提供決策支持。它不僅能夠提高運維工作的效率和準確性，還能夠釋放運維人員的時間，讓他們能夠專注于更復雜和戰略性的任務。隨著技術的不斷發展，我們可以預見AI將在未來的運維工作中扮演越來越重要的角色。
責任編輯：姜華
來源：
新鈦云服
