前言

官网:Ollama

官方Github地址:Releases · ollama/ollama
在这里插入图片描述


一、核心区分维度

1. 硬件架构
  • amd64:适用于 Intel/AMD x86_64 架构的 CPU(普通台式机、服务器)。
  • arm64:适用于 ARM 架构的 CPU(如树莓派、苹果 M 系列芯片、高通骁龙)。
2. 显卡加速支持
  • 无后缀(如 ollama-linux-amd64.tgz):仅支持 CPU 推理,无 GPU 加速。
  • -rocm后缀(如 ollama-linux-amd64-rocm.tgz):支持 AMD 显卡加速(需兼容 ROCm 驱动)。
  • -jetpack后缀(如 ollama-linux-arm64-jetpack6.tgz):专为 NVIDIA Jetson 嵌入式设备优化(如 Jetson Nano/Orin)。
3. 操作系统
  • .tgz:Linux/macOS 系统压缩包(需手动解压安装)。
  • .zip:Windows 系统压缩包(需解压后运行)。

二、安装包详细对比表

安装包名称 适用平台 硬件要求 加速支持 文件大小
ollama-linux-amd64.tgz Linux x86_64 Intel/AMD CPU 纯 CPU 1.16 GB
ollama-linux-amd64-rocm.tgz Linux x86_64 AMD 显卡(需 ROCm 驱动) AMD GPU 1.07 GB
ollama-linux-arm64.tgz Linux ARM64 树莓派、苹果 M 系列 纯 CPU 1.01 GB
ollama-linux-arm64-jetpack5.tgz NVIDIA Jetson Jetson 设备(JetPack 5.x) NVIDIA GPU 429 MB
ollama-linux-arm64-jetpack6.tgz NVIDIA Jetson Jetson 设备(JetPack 6.x) NVIDIA GPU 343 MB
ollama-windows-amd64.zip Windows x86_64 Intel/AMD CPU 纯 CPU 1.18 GB
ollama-windows-amd64-rocm.zip Windows x86_64 AMD 显卡(需 ROCm 驱动) AMD GPU 246 MB

💡

  • -rocm 的安装包需确认显卡兼容 ROCm(如 RX 5000/6000 系列)。
  • Jetpack 版本专为 Jetson 设备优化,普通 ARM 设备(如树莓派)选通用 arm64.tgz即可。

三、选择建议(根据你的设备)

场景 1:普通 PC 或服务器(x86_64 架构)
  • 无独立显卡 → 选 ollama-linux-amd64.tgz(Linux)或 ollama-windows-amd64.zip(Windows)。
  • 有 AMD 显卡 → 选 -rocm版本(如 ollama-linux-amd64-rocm.tgz),性能提升 2-3 倍
场景 2:嵌入式/移动设备(ARM 架构)
  • 树莓派、Mac M1/M2 → 选 ollama-linux-arm64.tgz
  • NVIDIA Jetson 开发板 → 根据 JetPack 版本选 -jetpack5-jetpack6(如 Jetson Orin 需 JetPack 6)。
场景 3:Windows 系统
  • AMD 显卡用户ollama-windows-amd64-rocm.zip(需提前安装 ROCm 驱动)。
  • 其他用户ollama-windows-amd64.zip(纯 CPU 运行)。

四、安装注意事项

  1. 1.驱动兼容性

    • AMD GPU 需确保安装 ROCm 5.7+ 驱动(官方支持列表)。
    • NVIDIA Jetson 需确认 JetPack 版本匹配jetpack5对应 L4T 35.x,jetpack6对应 L4T 36.x)。
  2. 2.验证文件完整性:下载后使用 sha256sum校验哈希值(如 sha256sum ollama-linux-amd64.tgz),确保与官网一致。

  3. 3.Linux 安装命令示例

    # 解压到系统目录(需 sudo 权限)
    sudo tar -xzvf ollama-linux-amd64.tgz -C /usr/local/bin
    # 启动服务
    ollama serve
    

总结

  • 普通电脑无显卡 → 选无后缀通用版(如 ollama-linux-amd64.tgz)。
  • AMD 显卡用户 → 必选 -rocm版本以启用 GPU 加速。
  • 树莓派/Mac → 用 arm64.tgzNVIDIA Jetson → 用 -jetpack专用版。
  • Windows 用户优先下载 .exe安装器(官网提供),压缩包(.zip)仅适合高级用户手动部署。

⚠️ 避坑提示:若安装后 GPU 未被识别,检查驱动日志(/var/log/ollama.log)并确认显存≥4GB

Logo

智能硬件社区聚焦AI智能硬件技术生态,汇聚嵌入式AI、物联网硬件开发者,打造交流分享平台,同步全国赛事资讯、开展 OPC 核心人才招募,助力技术落地与开发者成长。

更多推荐