部署谷歌的Gemini大模型

前言

本文将介绍如何使用Docker、Docker-Compose私有化部署谷歌的Gemini大模型，以及没有服务器的情况下如何使用Vercel来部署。

Demo:

使用新加坡云服务器部署：Gemini Pro Chat (snowice.eu.org)

使用Vercel部署：Gemini Pro Chat (snowice.eu.org)

项目地址

babaohuang/GeminiProChat: Minimal web UI for GeminiPro. (github.com)

部署

获取API

Docker部署

本教程使用的是新加坡的云服务器，如果你使用国内的可能需要代理！

docker run --name geminiprochat \
--restart always \
-p 3000:3000 \
-itd \
-e GEMINI_API_KEY=*** \
babaohuang/geminiprochat:latest

***改为你获取到的API

还可以设置别的环境变量，例如设置网站密码为'123'

docker run --name geminiprochat \
--restart always \
-p 2990:3000 \
-itd \
-e GEMINI_API_KEY=*** \
-e SITE_PASSWORD=123 \
babaohuang/geminiprochat:latest

环境名	描述	是否必填
GEMINI_API_KEY	您的 GEMINI 的 API 密钥。你可以从这里得到它。	是
API_BASE_URL	GEMINI API 的自定义基础 URL。点击此处查看如何使用。	否
HEAD_SCRIPTS	在页面的 </head> 标签之前注入分析或其他脚本。	否
PUBLIC_SECRET_KEY	项目的秘密字符串。用于生成 API 调用的签名。	否
SITE_PASSWORD	为站点设置密码，支持多个用逗号分隔的密码。如果未设置，站点将是公共的。	否

Docker-Compose部署

首先创建docker-compose.yml

vim docker-compose.yml

将以下内容粘贴到yml文件中，同样的将***换成获取到的API，同样的也可以设置别的环境变量

version: '3'

services:
  geminiprochat:
    container_name: geminiprochat
    restart: always
    ports:
      - "3000:3000"
    environment:
      - GEMINI_API_KEY=***
    image: babaohuang/geminiprochat:latest

设置网站密码为'123'

version: '3'

services:
  geminiprochat:
    container_name: geminiprochat
    restart: always
    ports:
      - "3000:3000"
    environment:
      - GEMINI_API_KEY=***
      - SITE_PASSWORD=123
    image: babaohuang/geminiprochat:latest

以“后台模式”运行服务

docker-compose up -d

更新服务

首先先暂停容器(回到你这个容器的docker-compose.yml目录下执行命令)

docker-compose down

重新拉取镜像

docker-compose pull

再次运行即可

docker-compose up -d

Vervel部署

Vercel点击一键部署，当然你也可以fork该项目自行使用Vervel部署

点击Create

输入你的API 点击Deploy

稍等片刻 部署成功

部署成功之后Vervel会送你一个域名可以访问该项目，但是该域名被墙了，因此需要自行添加域名。