🤖AI

各种ChatGPT相关项目的搭建

这里介绍的项目大多是基于ChatGPT(和OpenAI API)、New Bing(现在最新版已经整合进了Microsoft Copilot),到现在23年底的AI格局基本可以说是一超多强,OpenAI绝对的霸主(New Bing本质上也是基于GPT的,毕竟微软是OpenAI最大股东),Google Bard和Claude 2在某些领域也能和GPT-4掰掰手腕,但是综合能力还是差太多,因此基于他们开发的项目要少很多,至于Google最新发布的Gemini,由于刚刚处于起步阶段,功能和生态还很不完善,但是我相信以谷歌的实力到明年初超越ChatGPT(GPT3.5)还是完全可以的,想超越GPT-4的话,,,我只能说OpenAI也不是吃素的,人家更新进化也很快。

那么这里给大家附上目前主流大语言模型的官网:

注意这些网站无一例外被墙了(或者本身就不对中国开放),因此想要访问你首先必须要有一个在支持国家的节点(最好是美国),尤其是像Copilot这种网络审核严格的,你必须要有一个纯净的美国IP,后期可能会放宽审查,但是为了防止封号还是强烈建议大家拥有一个纯净的美国IP(怎么搭建我们上面都有讲,那种万人骑的机场真的别了)

不过其实现在(指的是23年底)国产大模型虽然整体上还是鱼龙混杂,很多就是蹭热度想捞一笔(点名批评文心一言),但是也有一些做得不错的,比如智谱清言最新的GLM-4,在中文语言能力上已经非常接近GPT-4了

在搭建下面的项目时你可能会需要用到下面这些内容:

1、OPENAI-API:官方API

获取地址:https://platform.openai.com/api-keys

这个是实打实花美金的,要绑定信用卡,按照消耗的tokens计费,具体可以参见官方计费文档:https://openai.com/pricing#language-models,运气好的话新用户注册可能会送5-18美刀不等

2、GPT_API_free:作用等同于官方API的免费API转发服务

慈善家1(推荐,KEY可永久使用,3.5模型没有额度限制,但GPT-4模型一天只能体验10次):

GitHub项目地址:https://github.com/chatanywhere/GPT_API_free

获取地址:https://api.chatanywhere.org/v1/oauth/free/github/render

转发地址:

转发Host1: https://api.chatanywhere.tech (国内中转,延时更低,host1和host2二选一)
转发Host2: https://api.chatanywhere.com.cn (国内中转,延时更低,host1和host2二选一)
转发Host3: https://api.chatanywhere.cn (国外使用,国内需要全局代理)

慈善家2(备用,一天可以获取一个1美元KEY,可用所有模型,但是token消耗快,有需要可以用多个邮箱薅,不过比较麻烦):

水龙头网址:https://faucet.openkey.cloud/

转发地址:https://openkey.cloud

余额查询地址:https://giegie.green/https://billing.openkey.cloud/

另外我们自己也搭建了一个余额查询服务:https://apibill.st0722.top/,支持自定义后端

3、BASE_URL:API请求地址

官方地址(需要使用官方API,国内需要科学上网):https://api.openai.com/

我自己搭建的转发地址(使用官方API,无需科学上网):https://api.st0722.top/

chatanywhere转发地址(用于GPT_API_free):参见上方2

Pandora转发地址(用于fk/pk token):具体见下一节Pandora部分

4、Access-token:十天刷新一次的身份信息

获取地址:https://chat.openai.com/api/auth/session

或者用F12打开开发者工具后,在网络面板找到session,响应头内有access-token

5、Session-token:理论上三个月刷新一次的身份信息(据说到期会自动续,原则上永不过期)

获取方式:https://chat.openai.com用F12(或右键检查)打开开发者工具后,在应用程序面板找到cookies,找到后缀为session-token的项,其值就是session-token

6、Share-token、Pool-token:由Pandora生成的token,用于Pandora服务

获取方式:https://ai.fakeopen.com/token使用Access-token生成Share-token,然后页面中也可以点击组装成Pool-token

生成的Share-token、Pool-token主要用于Pandora服务,也可以直接替换进下面的网址使用:

https://chat.oaifree.com/auth/login_share?token="替换此处,没有引号"

你可能需要的小技巧:

1、如何批量生成邮箱?

当然你可以用各种临时邮箱服务,但是一方面大部分网站都会屏蔽临时邮箱,另一方面临时邮箱不属于你,以后要验证就很麻烦,这里推荐下面两个方法:

Gmail别名:谷歌Gmail邮箱是可以用+号快速批量生成地址的,比如我的gmail地址是[email protected],我就用[email protected][email protected]快速批量注册了大量ChatGPT账号,如果遇到屏蔽+号的网站,还可以在原地址的任何位置加.来快速生成,比如[email protected][email protected]

CloudFlare电子邮局(前提是你有自己的域名),可以直接使用CloudFlare的Area0服务搭建电子邮局,然后任何前缀地址都会作为一个新地址并将邮件转发到你设置的邮箱,比如我的域名是st0722.top,任何前缀如[email protected][email protected]都是可用的邮箱地址。

2、如何测试大模型能力?

注意:严谨的测试方法可以去看各大大模型排名榜单,各有不同的方法,测试结果也不同,当然无一例外GPT-4都是最强的(现在是GPT-4-turbo),这里推荐几个:

中文测试榜单:

SuperCLUE:https://www.superclueai.com/

CLiB:https://github.com/jeinlee1991/chinese-llm-benchmark

英文测试榜单:

UC伯克利:https://huggingface.co/spaces/lmsys/chatbot-arena-leaderboard

Evaluation:https://llm-eval.github.io/pages/leaderboard.html

不过榜单是榜单,真的谁更强还是建议看你的实际使用体验,不同领域的人,不同的提问风格,得到的结论都可能不同,这边可以提供一份参考测试题,并附上我用截止到23年底最强大的GPT-4-1106-preview模型、目前的3.5模型中最强的GPT-3.5-turbo-1106以及网页版的ChatGPT得到的答案:

GPT-4-1106-preview模型GitHub链接:https://raw.githubusercontent.com/shentong0722/list/main/installsh/gpt-4-1106-preview.md

GPT-3.5-turbo-1106模型GitHub链接:https://raw.githubusercontent.com/shentong0722/list/main/installsh/gpt-3.5-turbo-1106.md

ChatGPT-Web-1106模型GitHub链接:https://raw.githubusercontent.com/shentong0722/list/main/installsh/ChatGPT-Web-1106.md

GPT-4-1106-preview测试题
gpt-3.5-turbo-1106测试题
ChatGPT-Web-1106测试题

这些模型一直在更新,有些题可能过几天GPT-3.5也能做了,如果大家有兴趣可以自行用下面这一套来自第三方的测试题进行测试:https://raw.githubusercontent.com/shentong0722/list/main/installsh/Chat-Bench2.xlsx,我们如果有时间也会系统得整理一份最新的结果并且实时更新到这个一份文档中

注意:在后面介绍的项目我可能会用“最强大”和“最好用”的形容词,而功能强大往往也就意味着配置困难、使用困难,上手有门槛,你需要反复看文档学习,好用则一般代表开箱即用,配置和使用方便,大家可以根据自己的需求进行选择。

最后更新于