在Ubuntu22.04 配置安装Dify Ollma 以及Deepseek配置

article/2025/6/17 15:01:57

在Ubuntu22.04 配置安装Dify Ollma 以及Deepseek配置


文章目录

  • 在Ubuntu22.04 配置安装Dify Ollma 以及Deepseek配置
  • 前言
  • 一、安装docker以及docker compose
    • 1. 更新软件包
    • 2. 安装docker依赖
    • 3. 添加docker密钥
    • 4.添加阿里云docker软件源
    • 5.安装docker和docker compose
    • 6.配置用户组(非必须操作,此操作目的是为了以后执行docker命令时无需输入sudo密码,避免这些重复操作而已。)
    • 7.重启电脑
    • 8. docker 换源
  • 二、安装dify
  • 三、安装ollama
  • 四、配置Dify以及Ollama
    • 1. 首次登陆Dify
    • 2. 将本地大模型与Dify进行关联
  • 总结


前言

随着人工智能的发展,deepseek是今年最火的开源大模型之一,他也促进了机器人整个行业的发展,最近在做一个项目,就涉及到用deepseek做一些应用。经过调研,决定搭建本地deepseek 7b的模型,结合Dify进行开发。但是在环境配置中,遇到很多问题,一开始电脑的系统是ubuntu20.04的,一直配置有点问题,所以后来和几个工程师小伙伴们讨论,决定采用ubuntu22.04的,于是,我们重装了一台全新的ubuntu22.04,在一个全新系统上进行安装。因此,我把安装记录写一下,方便也有此需求的小伙伴们可以参考。


提示:以下是本篇文章正文内容,下面案例可供参考

一、安装docker以及docker compose

根据dify的官网文档,我们还是决定采用docker安装,这样才不会影响系统其他环境的使用。

1. 更新软件包

sudo apt-get update
sudo apt-get upgrade

2. 安装docker依赖

sudo apt-get install ca-certificates curl gnupg lsb-release

3. 添加docker密钥

curl -fsSL http://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | sudo apt-key add -

4.添加阿里云docker软件源

sudo add-apt-repository "deb [arch=amd64] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable"

5.安装docker和docker compose

apt-get install docker-ce docker-ce-cli containerd.io docker-compose-plugin

6.配置用户组(非必须操作,此操作目的是为了以后执行docker命令时无需输入sudo密码,避免这些重复操作而已。)

sudo usermod -aG docker $USER

7.重启电脑

sudo reboot

重启电脑后,docker应该就会运行起来。但是,由于国内各种限制,所以导致我们需要更换docker方可实现容器的下载,经过多次测试,最终确定了几个源是可以用的,具体如下:

8. docker 换源

刚安装好的docker的电脑是没有/etc/docker/daemon.json这份文件的,所以,需要创建这个文件,在这里,我们直接用vim直接编辑,然后保存。

sudo vim /etc/docker/daemon.json

在文件里面输入以下内容

{"registry-mirrors": ["https://docker.m.daocloud.io","https://docker.1panel.live","https://hub.rat.dev","https://docker.mirrors.ustc.edu.cn/"]
}

保存后,一定得先reload一次这份文件,然后再重启docker,否则会重启失败,这个坑我也搞了很久。。。具体如下:

sudo systemctl daemon-reload
sudo systemctl restart docker

二、安装dify

dify的安装过程较为简单,根据官方文档安装即可,具体如下:

git clone https://github.com/langgenius/dify.git
cd dify
cd docker
cp .env.example .env

由于后期还需要配置dify以及本地的ollama,因为dify在用docker 容器安装的,ollama是装在本地的,因此,在.env文件的末端需要加入配置,否则无法dify无法访问本地的ollama,具体如下:

vim .env
# 启用自定义模型
CUSTOM_MODEL_ENABLED=true
# 指定 Olama 的 API地址(根据部署环境调整IP)
OLLAMA_API_BASE_URL=http://host.docker.internal:11434
PLUGIN_WORKING_PATH=/app/cwd

修改保存后,就可以开始运行dify了。

docker compose up -d

关于指令是docker compose 还是 docker-compose 也困扰了我一阵,经过查找,才知道是docker compose 的版本问题,或者说是docker compose的安装方法问题,因此,大家不必在此纠结,二者均可使用。

如果在安装过程中,发现类似于以下错误:

docker compose up -d
[+] Running 1/40⠹ api [⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀] Pulling                                            27.3s ⠹ db Pulling                                                             27.3s ⠹ nginx [⠀⠀⠀⠀⠀⠀] Pulling                                                 27.3s ⠹ ssrf_proxy Pulling                                                     27.3s ⠹ worker Pulling                                                         27.3s ⠹ sandbox Pulling                                                        27.3s ⠹ web Pulling                                                            27.3s ⠹ redis [⠀⠀⠀⠀⠀⠀⠀] Pulling                                                27.3s ⠹ plugin_daemon [⠀⠀⠀⠀] Pulling                                           27.3s ✘ weaviate Error     Get "https://registry-1.docker.io...                27.3s 
Get "https://registry-1.docker.io/v2/": context deadline exceeded (Client.Timeout exceeded while awaiting headers)

那就是说明下载超时,这里有几个办法,如下:

  1. 由于网络不稳定的问题,你可以一直重复docker compose up -d试一下,看看有没有机会下载完成。
  2. 如果还是不行,只能尝试着在此换源,看看是否可以。
  3. 如果还是不行,只能试着让终端翻墙,看看是否可以。
  4. 如果还是不行,那就得怀疑是不是docker版本问题了。今天是2025年3月2号,前几天我一直下载都是失败,原因是在docker-compose.yaml文件中,下载的web是1.0.0的版本,内容如下:
# Frontend web application.web:image: langgenius/dify-web:1.0.0...

但是前几天这个版本是找不到的,无论你换哪个源,所以我后来把版本换掉就可以下载了。但是今天我查看dify官网
在这里插入图片描述
两天前刚刚发布。。。所以今天下载就成功了。因此,dify的版本更新还是比较频繁的,我不确定看我博客的小伙伴们是哪天下载的,如果实在是docker安装一直失败,那就试试之前的版本,说不行就成功了。

三、安装ollama

如果一切正常,运行如下指令即可安装好ollama

curl -fsSL https://ollama.com/install.sh | sh

但是,大家在国内,你知道的,如果没有那啥啥啥的话,github往往给你出幺蛾子,你可能会有如下报错

curl: (56) OpenSSL SSL_read: error:0A000126:SSL routines::unexpected eof while reading, errno 0

你懂的,这时候你需要梯子且你的终端也可以用梯子出去。博客https://blog.csdn.net/linqiaqun/article/details/144894762中提到了一些方法,但是我觉得太麻烦了,之前遇到github超时无法下载,最简单暴力的方式,就是不断的运行,直到可以下载,因此,在这里我也用同样的方法,果然让我搞定了。。。还是暴力美学解决一切啊。。。

这时候就可以安装大模型了,在这里我们选择了deepseek-r1:7b模型,因此可以运行如下:

ollama run deepseek-r1:7b

四、配置Dify以及Ollama

1. 首次登陆Dify

  1. 在浏览器地址栏中输入“http://localhost/install”,首次安装,需要设置,如下图:

在这里插入图片描述
设置好了以后,就可以登录了。

2.登陆成功进入主页,如下图:
在这里插入图片描述

2. 将本地大模型与Dify进行关联

这个部分折腾我很长时间,包括一些环境变量配置啥的,首先,ollama无法外部访问,因此你需要配置环境变量,我是在Ubuntu22.04上安装的ollama,根据官方文档,需要对ollama.service进行配置,对于新安装的设备,是没有相关配置文件的以及路径的,因此具体执行如下:

sudo mkdir -p /etc/systemd/system/ollama.service.d/
sudo vim /etc/systemd/system/ollama.service.d/override.conf

创建好文件以后,写入如下:

[Service]
Environment="OLLAMA_HOST=0.0.0.0"

保存,然后重启ollama

sudo systemctl daemon-reload
sudo systemctl restart ollama

此时,你便可以用ip来访问ollama了,如下:
在这里插入图片描述

1)在Dify的主界面 http://localhost/apps ,点击右上角用户名下的【设置】
在这里插入图片描述
2)在设置页面–Ollama–添加模型,如下:
在这里插入图片描述
在这里插入图片描述
3)安装好了就可以关联模型了。
在这里插入图片描述
4)填写deepseek 模型信息相关信息后保存,如下:
在这里插入图片描述


总结

随着deepseek的深入应用,希望今天的这个博客可以帮助大家打开大模型应用的大门。


http://www.hkcw.cn/article/AYTgIRCjBh.shtml

相关文章

Ubuntu+Docker实战:手把手教你整合MyIP与cpolar实现内网穿透

文章目录 前言1.关于 MyIP2.Docker 部署3.MyIP 简单使用4.安装 cpolar 内网穿透5. 配置公网地址6. 配置固定公网地址总结 前言 技术探索者们请注意!我们即将揭晓一项突破性网络技术方案——MyIP 系统!这项创新技术颠覆了传统网络部署模式,即…

Ubuntu 22的安装,换源和配置(详细)

目录 1.安装 1.1.打开虚拟机 1.2.选择语言 1.3.版本更新 (跳过即可) 1.4. 键盘配置 1.5.选择安装类型 1.6.网络配置 1.7.配置代理 1.8.引导式存储布局配置 1.9.配置用户信息 1.10.安装OpenSSH服务包 1.11.选择安装服务软件包 2.换源和配…

使用Ubuntu快速部署MinIO对象存储

想拥有自己的私有云存储,安全可靠又高效?MinIO是你的理想选择!这篇文章将手把手教你如何在Ubuntu 22.04服务器上部署MinIO,并使用Nginx反向代理和Let’s Encrypt证书进行安全加固。 即使你是新手,也能轻松完成&#xf…

ubuntu中使用ollama部署本地deepseek

ubuntu中使用ollama部署本地deepseek 一、安装Docker 1、先卸载旧版,如果没有的话,就不用执行了,直接第二步。 apt-get remove docker docker-engine docker.io containerd runc 2、在终端输入 apt update apt-get install ca-certifica…

Ubuntu 24.04.2 LTS 桌面版系统安装、分区、配置全记录

引言 记录了一次完整的系统安装与环境配置过程,包括启动盘制作、安装引导、镜像源替换、中文输入法配置、驱动和CUDA安装、docker安装和完整配置过程、SSH配置、软件安装(App Store软件安装与其他软件安装,以VScode和Mathlab为例&#xff09…

Ubuntu 22.04下Docker安装(最全指引)

0-1开始Java语言编程之路 一、Ubuntu下Java语言环境搭建 | MacOS下使用Jenv管理多JDK版本 二、Ubuntu下Docker环境安装 | MacOS下Docker安装与配置 三、使用Docker搭建本地Nexus Maven私有仓库 四、Ubuntu下使用VisualStudioCode进行Java开发 五、从Swagger到OpenAPI&#xff0…

[Ubuntu]安装ollama操作记录

安装ollama操作记录 简介 Ollama 是一个致力于推动本地人工智能模型开发和应用的工具和平台,允许用户在本地运行、管理和调用各种 AI 模型。它的核心理念是提供一种无需依赖云计算环境的方式,让开发者和企业能够高效地使用 AI 模型,同时确保数…

AI全栈之路:Ubuntu云服务器部署Spring + Vue + MySql

背景介绍 之前使用AI代码工具Trae基于Spring Vue MySql生成了一个输入要做事情AI自动生成待办任务列表的的小工具,效果如下: 本地跑通后正好有一台阿里云服务器和域名,准备把这个项目部署到云服务器实现远程访问,本文记录部署…

IsaacLab最新2025教程-环境配置(IsaacSim 4.5.0/Ubuntu22.04) 原创

拖了几个月,终于录了一个安装视频在b站: IsaacLab最新2025教程-环境配置(IsaacSim 4.5.0/Ubuntu22.04) 原创_哔哩哔哩_bilibili IsaacLab的官方入门教程专栏会不断更新哈: IsaacLab教程2025_Calm_dw的博客-CSDN博客 Update 最近看大家的…

在Ubuntu22.04上部署ComfyUI

ComfyUI 是 一个基于节点流程的 Stable Diffusion 操作界面,可以通过流程,实现了更加精准的工作流定制和完善的可复现性。每一个模块都有特定的的功能,我们可以通过调整模块连接达到不同的出图效果,特点如下: 1.对显存…

[Linux]在Ubuntu中安装samba并且正确配置(详细)

一、我们为什么需要samba服务 samba是一种实现windows和linux包括macos文件共享的套件。它能让我们像访问自己的磁盘一样去访问别的系统的文件。可以看得出来这种一种快速并且高效的文件传输协议。看到这里,大家可能会有些疑问。向linux传输文件,我们可以…

基于VMware虚拟机的Ubuntu22.04系统安装和配置(新手保姆级教程)

文章目录 一、前期准备1. 硬件要求2. 软件下载2-1. 下载虚拟机运行软件 二、安装虚拟机三、创建 Ubuntu 系统虚拟机四、Ubuntu 系统安装过程的配置五、更换国内镜像源六、设置静态 IP七、安装常用软件1. 编译工具2. 代码管理工具3. 安装代码编辑软件(VIM&#xff09…

媒体:复制“苏超”的精彩很难 “发明者是天才”获赞

6月3日,关于“发明苏超的是天才”的话题引起了广泛关注。媒体对此进行了分析,并表达了高度赞同。6月2日,“发明江苏足球联赛的人一定是个天才”这一话题冲上热搜。有人评论说:“今年端午的欢愉皆由苏超赋予,梗层出不穷,容我再畅快笑上一阵。”自5月10日开赛以来,“苏超”…

巴黎世家线上已下架4500元半身裙 设计争议再起

近日,奢侈品牌巴黎世家推出的一款售价4500元的女款半身裙在网上引发热议。不少网友吐槽该裙子造型与平角短裤极为相似,直呼“看不懂时尚”。据巴黎世家官网介绍,这款深蓝色弹力平纹针织半身裙亮相于2025秋季系列Look 50和Look 54。裙子采用弹力棉混纺平纹针织面料,为平角短…

乌军无人机奇袭俄领土有何影响 俄乌紧张局势升级

乌克兰国家安全局(SBU)出动117架无人机,对俄罗斯多个州的军事基地实施袭击,成功击中41架俄军战机。乌方称,俄罗斯主要机场中约34%的战略轰炸机遭到攻击,损失达到70亿美元。这一消息让外界感到震惊,尤其是袭击目标包括俄远东地区的机场。次日,乌克兰官员更新数据称,至少…

苏超出圈网友玩梗不断 足球与幽默齐飞

江苏省城市足球联赛首次举办,短短三轮比赛后,“苏超”的“含梗量”已经超标。这并非苏格兰足球超级联赛,而是由13个设区市各组一支队伍参与的赛事。截至6月1日,南通队暂列第一。场上是真比拼,场外则充满了网梗和段子。例如,无锡队客场挑战泰州队失利,有人调侃说是因为无…

多方回应男子拖拽女童进小巷 案件定性引争议

6月3日,湖南娄底市公安局娄星分局通报了一起事件。5月20日下午,嫌疑人刘某某(男,38岁)酒后行至娄底市娄星区涟滨中街附近,拖拽一名6岁女童进入居民区巷子,被居民及时制止并报警。警方迅速赶到现场将刘某某控制。经侦查,刘某某涉嫌寻衅滋事已被拘留,并将依法追究其刑事…

老头乐失控撞进餐馆 姐姐冷静救妹妹 姐姐反应神速获赞

6月2日12点48分,河南省周口市西华县某乡镇饭店内发生了一起意外。一位老人在饭店就餐结束后准备驾驶老年代步电动车离开,因操作不当,车辆冲破大门径直冲进店内。当时,饭店老板一岁多的孙女正在店内玩耍,就站在车辆行进路线上。眼看幼童就要被撞,她的姐姐迅速将妹妹抱起转…

科学家发现超级地球 或存类地生命 宜居带内新希望

人类是否是宇宙中唯一的智慧生命?是否存在另一颗像地球一样适合生命存在的行星?这些都是长久以来人们关心的宇宙谜题。中国科学院云南天文台牵头的国际研究团队在一颗类似太阳的恒星周围发现了一颗位于宜居带的超级地球Kepler-725c,其质量大约是地球的10倍。这颗超级地球围绕…

科学家发现一颗“超级地球” 位于宜居带或存生命

人类是否是宇宙中唯一的智慧生命?有没有另一颗像地球一样适合生命存在的行星?这些问题一直是人们关注的宇宙谜题。中国科学院云南天文台牵头的一个国际研究团队,在一颗类似太阳的恒星周围发现了一颗位于宜居带的超级地球Kepler-725c,其质量约为地球的10倍。这颗“超级地球”…