侧边栏壁纸
  • 累计撰写 10 篇文章
  • 累计创建 9 个标签
  • 累计收到 8 条评论

目 录CONTENT

文章目录

部署谷歌的Gemini大模型

Snow
2023-12-26 / 0 评论 / 2 点赞 / 216 阅读 / 7215 字 / 正在检测是否收录...
温馨提示:
本文最后更新于 2024-01-16,若内容或图片失效,请留言反馈。部分素材来自网络,若不小心影响到您的利益,请联系我们删除。

前言

本文将介绍如何使用Docker、Docker-Compose私有化部署谷歌的Gemini大模型,以及没有服务器的情况下如何使用Vercel来部署。

Demo:

使用新加坡云服务器部署:Gemini Pro Chat (snowice.eu.org)

使用Vercel部署:Gemini Pro Chat (snowice.eu.org)

项目地址

babaohuang/GeminiProChat: Minimal web UI for GeminiPro. (github.com)

部署

获取API

Docker部署

如果你还没有安装Docker,Centos7安装Docker和Docker-Compose

本教程使用的是新加坡的云服务器,如果你使用国内的可能需要代理!

docker run --name geminiprochat \
--restart always \
-p 3000:3000 \
-itd \
-e GEMINI_API_KEY=*** \
babaohuang/geminiprochat:latest

***改为你获取到的API

还可以设置别的环境变量,例如设置网站密码为'123'

docker run --name geminiprochat \
--restart always \
-p 2990:3000 \
-itd \
-e GEMINI_API_KEY=*** \
-e SITE_PASSWORD=123 \
babaohuang/geminiprochat:latest

环境名

描述

是否必填

GEMINI_API_KEY

您的 GEMINI 的 API 密钥。你可以从这里得到它。

API_BASE_URL

GEMINI API 的自定义基础 URL。点击此处查看如何使用。

HEAD_SCRIPTS

在页面的 </head> 标签之前注入分析或其他脚本。

PUBLIC_SECRET_KEY

项目的秘密字符串。用于生成 API 调用的签名。

SITE_PASSWORD

为站点设置密码,支持多个用逗号分隔的密码。如果未设置,站点将是公共的。

Docker-Compose部署

首先创建docker-compose.yml

vim docker-compose.yml

将以下内容粘贴到yml文件中,同样的将***换成获取到的API,同样的也可以设置别的环境变量

version: '3'

services:
  geminiprochat:
    container_name: geminiprochat
    restart: always
    ports:
      - "3000:3000"
    environment:
      - GEMINI_API_KEY=***
    image: babaohuang/geminiprochat:latest

设置网站密码为'123'

version: '3'

services:
  geminiprochat:
    container_name: geminiprochat
    restart: always
    ports:
      - "3000:3000"
    environment:
      - GEMINI_API_KEY=***
      - SITE_PASSWORD=123
    image: babaohuang/geminiprochat:latest

以“后台模式”运行服务

docker-compose up -d

更新服务

首先先暂停容器(回到你这个容器的docker-compose.yml目录下执行命令)
docker-compose down
重新拉取镜像
docker-compose pull
再次运行即可
docker-compose up -d

Vervel部署

Vercel点击一键部署,当然你也可以fork该项目自行使用Vervel部署

点击Create

输入你的API 点击Deploy

稍等片刻 部署成功

部署成功之后Vervel会送你一个域名可以访问该项目,但是该域名被墙了,因此需要自行添加域名。

2

评论区