Press "Enter" to skip to content

极客智坊支持联网对话和不限长度网页翻译

众所周知,GPT 虽然很强大,但是有其局限性 —— 受限的对话上下文长度和训练知识的滞后性。于是上个周末,我就给极客智坊新增了两个功能更新 —— 联网对话支持和不限长度网页翻译,以便在一定程度上弥补 GPT 的这两个短板。

联网对话

所谓联网对话,实现起来也不难,就是在用户开启联网对话开关时,所有用户问题先通过搜索引擎搜索,然后将返回结果读取后,提取其中与用户问题相关的片段作为上下文知识点,在回答用户问题时作为参考依据,这样一来就可以缓解 GPT 知识库的滞后性。

极客智坊万能答题模块,只需在输入问题后点击插件图标,选择联网插件,即可开启联网对话功能:

e26cd09983b7a609fb8003526ccf9c7

当你提交的问题包含时效性要求时,就可以开启联网对话功能,从而让 GPT 给出更加准确的答案,而不是无法回答或者胡乱编造。下面是一个未开启/开启联网对话时 GPT 回答结果的对比示例:

1ff49cc668982c7743e2d80151423b3

可见对于时效性问题,开启联网对话可以得到更好更准确的答案。

需要注意的是,联网对话需要通过搜索引擎进行搜索然后提取与问题相关的答案片段,因此,需要更多的金币开销和更长的回答时间,如果你想要关闭该功能,点击下拉列表中的禁用即可。

目前极客智坊搜索引擎基于Bing提供服务(面向国内市场)。

网页翻译

除了失效性之外,GPT 另一个不足之处是对话上下文长度(问题-回答字数),GPT-3.5 大概支持四千字,GPT-4 八千字,GPT-3.5-16K是一万六千字,超过这个长度就没法处理了,对于网页翻译这种场景,如果网页中的文章内容很长,超过 GPT 模型限制,就不能进行正常翻译了。

我这里的解决方案是将原始网页内容拆分成多个子任务,然后调用 GPT 模型进行分块翻译,最后把结果拼接起来,就实现了任意长度网页内容翻译了。在极客智坊极客翻译模块,点击网页翻译 Tab 按钮,在左侧输入/粘贴待翻译网页 URL,选择要翻译的目标语言,点击翻译即可自动提取 URL 对应的网页内容进行翻译(这里以 Go 入门教程为例进行演示):

d8f705895e472ca0759b9da8d0a39f4

这对于阅读国外新闻、技术文档、技术教程这些场景还是很方便的,尤其是可以使用 GPT-3.5 模型这种成本更低的模型:

416e6fc14fc3580ccf6368e659d3655

输出的结果是 Markdown 格式,你可以点击右下角拷贝按钮拷贝翻译结果到其他地方进行进一步编辑和润色。

文本翻译也支持不限长度文本翻译,之所以选择翻译这个场景,主要是翻译场景拆分后执行再拼接结果对任务整体性没有任何影响。万能答题/番薯智库底层现在也支持记忆滑动窗口,当上下文长度超过限制,会自动遗忘更早的对话内容,除非最后一个问题长度本身超过模型限制,否则也不会报长度超出限制的提示让对话无法继续进行下去。

立即体验:点击前往极客智坊万能答题

发表回复