智能体建设3-部署大模型部署工具Ollama

本系列主题

智能体写入国务院文件。

2025年8月26日，国务院印发《关于深入实施“人工智能+”行动的意见》，明确表示，到2027年，实现人工智能与6大重点领域广泛深度融合，新一代智能终端、智能体等应用普及率超70%。十年后，我国全面步入智能经济和智能社会发展新阶段。

还等什么，赶紧实践起来。

今天讲解部署大模型部署工具，有了，后面就可以拉取部署大模型。

一，介绍

是一个开源的轻量级框架，旨在本地计算机上简化大型语言模型（LLM）的部署和运行。它为用户提供了便捷的命令行界面（CLI），使得无需复杂配置或依赖云端服务即可下载、管理和与各种开源模型（如Qwen、等）交互。

通过 ，用户可以直接在个人电脑或服务器上执行模型推理任务，支持文本生成、代码补全、对话交互等功能。其设计注重易用性和灵活性，允许通过简单的命令（如 run ）快速启动模型，并支持自定义模型配置（如调整参数、上下文长度等）。 还提供了类 的 API 接口，便于与其他应用（如聊天界面、自动化脚本）集成。

支持多平台（macOS、Linux、），并优化了硬件资源利用，可通过 GPU 加速提升性能。它降低了本地运行 LLM 的技术门槛，推动了隐私保护、离线访问和模型实验的普及，成为开发者和研究者的实用工具。

二，操作步骤

（1）提供了便捷的一键安装脚本，使用脚本进行自动安装。

打开终端，执行以下命令下载并安装：

curl -fsSL https://ollama.com/install.sh | sh

安装脚本会自动完成下载、安装依赖及设置系统服务。

（2）防火墙放行 端口

在终端中执行以下命令：

firewall-cmd --add-port=11434/tcp --permanent && firewall-cmd --reload

（3）允许局域网访问：