开启open-webui：一键集成ollama，打造革命性GPT体验

Summary

本期视频介绍了ollama的Web版——open Web UI,它支持多种功能,包括聊天、文档上传、网页浏览、语音输入等。视频详细演示了如何安装配置ollama和open Web UI。此外还展示了它们的一些功能,比如文档分析、CSV转换、多模态处理等。open Web UI相比其他类似工具,提供了更多实用功能。

Takeaways

• 😃ollama Web版本支持多种功能:聊天、文档上传、网页浏览、语音输入等
• 👍提供了Windows安装包,安装和使用都十分便捷
• 📝支持与本地RAG引擎集成,可以增强文档理解能力
• 🔌可以连接外部Ollama服务器,支持反向代理
• 😎同时支持多个AI模型进行智能对话
• ✨支持OpenAI API接口集成
• 🖥️基于Pinokio软件可以方便安装open Web UI
• 🎨支持AI绘画功能,例如Stable Diffusion
• 🔊提供了语音合成功能
• 👀支持上传图片并生成描述,具有视觉理解能力

Q & A

ollama web版本支持哪些功能?

ollama web版本支持多模态,可以上传文档,集成本地RAG,浏览网页,支持语音输入,AI绘画,与多个模型对话,集成OpenAI API,连接外部Ollama服务器,支持后端反向代理等功能。

open Web UI的安装方式有哪些?

open Web UI提供docker安装方式。另外也可以通过Pinokio这个软件进行安装部署。

open Web UI相比Chatbox有哪些优势?

open Web UI支持文档,多模态等更多功能,总体上比Chatbox功能更加强大。

安装open Web UI需要哪些前置条件?

安装open Web UI前需要先安装conda、git、zip、python、vs studio等软件。Pinokio会自动安装这些前置软件。

open Web UI生成的CSV文件质量如何?

open Web UI可以根据提示词生成CSV文件,但是代码行质量还有一定随机性,与后端连接的模型也有关系。

ollama的多模态模型有哪些功能?

ollama的多模态模型可以分析图片内容并用语音进行回答。

open Web UI还支持哪些其他功能?

open Web UI还支持自动图像生成,语音识别与合成(TTS)等功能。

ollama 和 open Web UI的关系是?

ollama是语言模型软件,而open Web UI是一个web界面,可以连接ollama使用其语言功能。

安装open Web UI的主要难点在哪里?

open Web UI涉及前后端,相对复杂。主要难点在于docker和环境配置。Pinokio工具可以简化安装。

open Web UI适合什么人群使用?

喜欢折腾的技术人群。对语言模型感兴趣并想通过web界面试用的人群。

Outlines

00:00

😊 ollama Web版本介绍

本段介绍了ollama Web版本的功能,包括支持多模态、文档处理、网页浏览、语音输入、AI绘画、多个模型对话、OpenAI API集成、外部服务器连接、后端反向代理等。还介绍了ollama的安装方法。

05:01

😃 open Web UI项目安装

本段介绍了open Web UI项目的安装方法,包括通过docker方式和使用Pinokio工具安装。详细演示了利用Pinokio工具安装open Web UI的过程,并展示了安装完成后可与ollama集成使用的效果,支持文档上传和多模态功能。

Keywords

💡ollama

ollama是一个基于OpenAI API搭建的聊天机器人软件。视频中多次提到ollama软件的安装和使用,它支持连接OpenAI的各种语言模型,实现聊天、问答等人机交互功能。

💡open Web UI

open Web UI是一个开源的网页前端,可以连接各种聊天机器人后端服务,如ollama等。视频详细介绍了如何安装配置open Web UI,连接ollama后端,实现网页版的聊天机器人。

💡多模态

多模态指语音、图像、文字等多种模式的输入和输出。视频中展示了ollama的多模态模型,可以对图像内容进行理解和描述。open Web UI也支持多模态交互。

💡RAG

RAG指基于检索增强生成(Retrieve and Refine)的模型。视频中提到open Web UI支持RAG。这可以利用检索相关信息,增强聊天机器人的回答质量。

💡文档

open Web UI支持上传和解析文档,视频中演示了它可以解析文档,生成指定格式的输出。这增强了其Handling的能力。

💡Pinokio

Pinokio是一个帮助安装各种开源项目的软件工具。视频使用Pinokio来安装配置open Web UI。

💡gemma

gemma是谷歌开源的对话模型,视频中使用gemma作为ollama的后端模型,与open Web UI前端连接。

💡CSV

CSV是一种简单的文件格式,用于存储表格数据。视频展示open Web UI可以解析文档,生成CSV格式的输出。

💡镜像

这里指AI模型的docker镜像。视频中提到ollama使用docker来分发AI模型。

💡网页浏览

open Web UI作为网页应用,支持直接在浏览器中使用,视频中演示了其网页界面和交互。

Highlights

ollama Web 版本支持多模态,如文档、本地 RAG 集成等

支持网页浏览、语音输入、AI 绘画、多个模型对话等功能

集成了 OpenAI API,支持外部 Ollama 服务器连接

有后端反向代理支持,整体功能强大

介绍 open Web UI 项目,它实现聊天、附件上传等功能

open Web UI 使用 Docker 安装,分前后端实现

使用 Pinokio 工具安装 open Web UI 项目

Pinokio 会先安装必要的软件环境,然后克隆 GitHub 项目

启动 open Web UI 后需要同时运行 ollama 后端

open Web UI 支持文档解析和 CSV 导出等功能

下载多模态模型,可以分析图像内容

支持 AUTOMATIC1111 进行 AI 绘画

有 TTS 语音合成功能

open Web UI 功能强大,比 ChatBox 等客户端更优

视频分享内容结束

Transcripts

ollama web版本支持多模态

支持文档 、本地 RAG 集成、网页浏览功能

语音输入支持、AI绘画、多个模型对话

OpenAI API 集成

外部 Ollama 服务器连接

后端反向代理支持

基多功能一体的

chatgptweb客户端软件来了

今天给大家介绍一个项目

是ollama的Web版

它的早期项目叫ollama-Web UI

现在项目更名为open Web UI

它主要实现哪些功能呢

可以实现聊天

实现附件

包括我们现在的多模态的附件

就是聊天和附附件功能

然后也支持RAG的一个增强

那么下面给大家介绍下

这个项目怎么去用的

那我们首先回到上期视频当中

我们用到了一个 ollama

这个ollama的这个安装地址

在这个位置

目前他已经升到V0.1.28版本

我们找到一个Windows版

点击这个下载

因为我提前已经下载完成了

下载完成之后

这里面有一个这个地方

我们检查双击

因为现在目前的话

这个软件安装的时候

可能会认为是一个病毒

我们首先把杀毒软件给关闭掉

然后把360的也去掉

退出然后这时候我们进行点击安装

点下一步

它默认会装在c盘的document APP date

这个目录下面去

然后我们找一下安装目录

程序安装是在这个目录下面

然后大概是有100多兆

哦 385M

然后接下来

我们就可以启动桌面板的CMD命令

然后我们测一下

好这个版本是0.1.28木

已经安装好了

接下来我们就启动这个

ollama

我们还是以上期的谷歌的gemma为例

我们下载这个模型

我们复制这个命令然后

啊这时候我已经那个启起来了

因为之前我在电脑上

已经装过gemma:7b模型

所以它直接可以启起来

默认的情况下他没有模型的话

可以有一个下载过程

这个大家就稍等一下

这个就是我们的模型的地址

跟那个我们之前的docker文件差不多

然后它这里面有一堆文件

看就是这个

大家看到了

这就是相当于镜像

而且模型镜像做成一个docker模式

刚才ollama已经给大家安装过了

接下来

我们看一下这个open webui的安装

open UI的项目地址是在github这个位置

然后

然后它的安装

官方安装是由docker

来方式来进行安装的

因为它分前端和后端

前端是nodejs

后端是Python实现的

然后因为我本地电脑上docker Desktop

这个有点问题

所以我这边就没有安装成功

接下来我们给大家使用一个叫

Pinokio来给大家进行安装这个东西

给大家演示一下Pinokio这个软件

安装这个项目

在github的这个这个项目的这个地址

然后我们点开这个官网

查官网网站打开之后

这里面有相关的说明

比如说这是一个油管的一个视频

然后下面呢是集成了

就是像open Web UI Lobo CHAT就是这些主流的

这这个github的一个项目

我们打开这个dowload

然后这里面会有Windows Mac

嗯然后Linux我们选Windows

然后点击下载

然后按照这个路步骤

就是安装就可以了

我这里面已经提前安装好了

这就不给大家演示

安装完成之后我们桌面上会有

打开软件之后

这里面有一个访问这个网站

然后这样的话

他一个就我们看到刚才网站上

Web,Web UI

lobe chat这里面都有相关的这些

我们只要在这里面安装好就行

包括ollama

对吧我们接下来我们下载

呃就先选这个吧

选中它之后

然后这里面是先下载dowload

这一块的话

首先它会把目前的conda,git

z i p

还有py还有vs等

这些软件先提前先安装

安装完之后

然后再来我们接下来看一下这个

点开这个

好了我们看窗口这边已经弹出来

就是第一个已安装完了

conda安装完

第二个是装 git

然后稍等片刻

我们看到这个已经安装vs了

然后这个弹出一个vs studio的

应该安装这个界面

这个稍等它一遍

下载安装

安装完成之后

这里面有一个安装complete click OK

我们点确定

好这时候就已经完成了

我们打开Pinokio

然后这里面进入一个

Pinokio的这些项目的这个地址

这个各种网站的地址

然后我们打开这个Web UI

然后这里面我们点击download下载

这时候它会保存save as 这个Web UI GT

然后下载下来这个

稍等片刻

好这个是已经下载完成了

然后它会进入到一个叫open Web UI的GT

这个项目

然后我们点开这个项目子模块

这里面有一个install

我们点开它

然后接下来就是对那个Pinokio

然后在github里面

下Web open UI的这个项目

然后只剩一个NPU的编译打包

我们稍等片刻

啊这一步就是安装完成

运行完成之后

我们点击start

然后这时候他们需要提示我装

安装啦ollama

这时候我们这边已经启起来了

我们点开这个

这个ollama

这个页面就已经打开了

我们注册一下

然后填入名字

我们确保这边的ollama模型启动

然后输入127.0.0.1:8000

这时候启起来

然后我们下拉选项

这里面有一个那个刚才的gemma

7b模型

然后我们可以聊天

好这个他已经写出来了

然后接下来我们再可以测一下这个

webui

它可以支持那种附件和文档上传

我们测一下

我们试一下这个项目经理清单

然后给它一个提示词比如说

请分析一下项目

进行清单

并将这个文件格式输出

CSV文件格式

把生成出来的CSV文件

格式与代码行输出

我们看下效果

好这时候他就按照我们刚才的要求

把这边这个文档解析出来了

然后生成姓名年龄所有代

然后是否有PMP

然后这是他的代码

这个代码我个人觉得他生成的

可能有点随机性

但是至少他能读懂

可能跟我们后端的那个gemma

模型是有关系的

这个webui还支持多模态

我们接下来在这官方上下载这个模型

这个是多模态的模型

我们点开它

然后找一个简单的1.6的这个模型吧

我们把这个装一下

然后我们开CMD窗口

这个我们下一下模型

稍等一下

好了这个模型已经下载完成了

我们看一下这

个

这时候就有一个ollama

llava的多模态模型

我们测一下

我们选择一张照片

我们问请这张照片的内容是什么

让他回答一下

好他已经回答出来

这张照片是一个关于长发的脸部表情

一个男姓

正是对面一种视觉的圆

这个就是这个Olama

它还支持一些其他的一些功能

比如说我们现在看到的声音

然后它的图像

图像可以直接AUTOMATIC1111

因为这个时间关键就不给大家演示了

然后声音这块我们给大家听一下

这面有个TTS

这张照片的内容

是

一张关于长发和脸部表情的男性画像

他正视镜头

给人以一种啊

总之这个这个Web就是open Web UI

这个项目功能还是非常强大的

它支持一些RAG

然后文档

然后多模态等功能

比之前我们说的那个Chatbox

可能功能更强大一些啊

本期的分享就到这里

全部结束了

谢谢大家的观看