几家大语言模型服务对比
官方chatgpt
目前用的是openai,回答质量是最高的,主要是问题是价格比较贵,更重要的是随时有被封号的风险。目前用是美国ip的梯子,付款方式是wildcard。
Monica AI
各种大语言模型api的套壳,基本包含各种主流的大语言模型。现在做活动(邀请链接),订阅价格不到10刀一个月,比官方的chatgpt便宜了一半,但是在联网搜索的效果不如官方的chatgpt,官方chatgpt可以自己判断是否需要联网搜索,而Monica AI即使勾选了联网搜索,大部分时候也不会触发搜索。
下面是问"NVIDIA project digits是否可以部署deepseek模型",用官方chatgpt答复显存容量有128g,但是Monica AI就是胡乱回答一通。因为对联网搜索这块有一些需求,所以只能弃用了,如果对这个要求不高的话,可以使用。
openrouter
这家提供了很多主流的大语言模型的API,也可以直接聊天。免去了chatgpt付费和封号的麻烦,而且按照token消耗量来计费,价格要便宜不少,但是没有联网搜索功能。之前一段时间都是用的这个,不过昨天发现chatgpt等几个模型都提示所在国家被禁用,猜测可能是限制了ip了。
deepseek
今年最大的惊喜,deepseek的r1效果非常好,写出来的文字很有文采(这种文采不是华丽词藻的堆砌,而是对事物本质的深刻而准确的洞察),还支持联网搜索。不过目前服务不太稳定,后面如果稳定的话,完全可以满足日常生活的查询需求,甚至都想尝试本地部署一套满血版的deepseek了。
关于联网搜索
之前以为联网搜索只是简单的调用搜索API,把搜索结果放在提示词中再丢给大模型,查了一下并没有这么简单,几年前有个WebGPT就是关于这方面的工作,需要引入人类反馈的强化学习。所以这方面的体验,套壳API的公司难以匹敌进行预训练大模型的公司,自己部署那就更难了。希望后面有这方面的开源项目。