GPT检索插件：Weaviate作为生成式人工智能的长期记忆库

---

【内容导读】

# GPT插件概述

# GPT检索插件

# Weaviate检索插件的实际应用

*在公司专有文件中使用GPT

*个性化GPT

*帮助GPT记忆

GPT插件概述

OpenAI发布了GPT的插件能力后，突然之间，每个人最喜欢的聊天机器人都可以与我们日常生活中使用的其他应用程序进行交互了！插件的发布改变了游戏规则，甚至可以说比底层GPT模型本身的4.0升级更重要。

那么什么是GPT插件呢？

有些人将插件解释为LLM的 “眼睛和耳朵”，通过了解其他应用程序（如Zapier、Uber Eats、Duolingo等）并与之集成，帮助GPT等产品更自然地与用户互动。

我认为插件不仅仅是GPT的 “眼睛和耳朵”。听我说完👇

在此之前，GPT是一个我们可以与之交流的工具，它可以 “想象 “出有创意的故事，帮助我们学习，为我们总结，为我们写作，为我们解释。GPT与我们互动的界面仅限于我们浏览器上的一个标签。

但现在，借助插件的强大功能，GPT可以做的远不止 “说话”，它还可以在现实世界中 “做事”！

例如，如果您启用了 Instacart 插件，您不仅可以要求 GPT 生成食谱，还可以订购杂货送到您家门口，以帮助整理您的下一顿饭！或者，如果您不想做饭，它会为您预订使用 OpenTable 提供类似食物的餐厅的座位！

人们对 GPT 组织美好假期的能力感到震惊，但现在通过与 Expedia 的插件集成，它实际上可以为您购买机票、预订酒店，甚至为您预订往返机场的乘车服务。

虽然我们仍然只能通过浏览器上的选项卡与 GPT 进行交互，但它现在可以通过 Zapier 插件连接到的数千个集成中的任何一个与我们交互，从 Google 表格到 Salesforce。

https://zapier.com/blog/announcing-zapier-GPT-plugin/

简而言之。

插件赋予了GPT利用第三方资源来执行对话的能力！GPT不仅可以调用当前可用的大量应用程序来实际执行和影响现实世界中的事情，还可以利用这个应用程序网络的优势来弥补自身的一些不足。

我们最兴奋的是Retrieval Plugin（检索插件），它允许您将 GPT 与 Weaviate 等矢量数据库一起使用，以克服 GPT 一直在努力应对的最大挑战之一：缺乏长期记忆，以及无法根据内部文档和数据提供响应。🧠🔌

这有可能成为使用最广泛的插件，因为它将允许用户创建满足自己数据的 GPT 的自定义版本。「不要只是从我这里拿走它，从 OpenAI 的联合创始人 Greg 那里拿走它，以及该插件在 Github 上流行的事实！」

 

 

Retrieval Plugin 检索插件

GPT retrieval plugin（检索插件）。

允许您将 GPT 连接到矢量数据库的实例。然后，存储在连接的矢量数据库中的任何内容都可用于回答提示的问题，从而使 GPT 能够“知道”您的自定义数据并根据存储在矢量数据库中的详细信息回答问题！

不仅如此，矢量数据库还可以用作 GPT 的长期内存存储，以持久化和存储从选项卡的短期内存到矢量数据库的长期存储功能的部分对话。一旦通过检索插件连接，矢量数据库就会充当 GPT 的皮层！🧠

GPT retrieval plugin（检索插件）可用于让 GPT 完成基于存储在连接矢量数据库（如 Weaviate）中的知识上下文的任务。

此过程包括两个步骤：👇

首先，我们提示 GPT 一个问题，它使用它来制作可以发送到矢量数据库的查询，如下所示。

如果使用没有Weaviate检索插件的GPT，就会发生这种情况。👇

正如预期的那样，该模型没有任何特定信息来回答问题！现在假设我们启用 Weaviate 检索插件，如下所示：👇

下面的示例演示了该插件的实际操作。请注意如何使用提示 What is my cat’s name? 来创建查询 cat’s name ，然后将其发送到向量数据库以对存储的文档进行搜索。

连接的矢量数据库通过搜索和过滤您的数据子集，提供相关信息和上下文。如下图所示：👇

第二步是将这些信息传递给GPT，使其能够制定答案以完成提示中指定的任务。该步骤如下所示：👇

简而言之，您可以更新GPT所知道的知识，而无需通过昂贵和耗时的过程来重新训练权重。

该插件的主要功能是👇

*它允许您在GPT上附加一个矢量数据库，该数据库拥有GPT在回答特定问题时可以使用的专有数据。

*允许您持续保存个人文件和细节，使GPT具有个人特色，这样回答就不仅仅是泛泛而谈，而是可以满足您的需求（基于矢量数据库中指定的细节）。

*可以将与GPT的对话保存在所附的矢量数据库中，以便在打开和关闭GPT选项卡之间继续对话。

这样做的好处是。我们现在可以对存储在连接的向量数据库中的内容进行小规模的定期更新，让模型了解新的信息，减少重新训练LLM模型和频繁更新的需要–这确保了LLM即使在耗时的重新训练权重更新之间也能提供强大的最新自定义答案。

现在，我们将提供更多示例，说明如何利用开源向量数据库Weaviate的GPT检索插件。

废话不多说，让我们开始吧！

Weaviate检索插件的实际应用

在公司专有文件上使用GPT

为了从GPT’s GPT4.0这样的LLM的能力中获益，我们最好能将其生成能力应用到新的或定制的数据中。

例如，这将使私人定制版本的GPT在您公司的内部文件上得到训练，并可作为人力资源聊天机器人。想知道新员工入职流程是怎样的，或者如何注册健康福利？您只需询问定制的GPT即可！定制的GPT应用无限，令人兴奋！

下面我向您展示这个人力资源聊天机器人可能是什么样子的！👇

TaDaaaa!🎉 哒！🎉

这只是一个例子，打包公司政策和福利文档并将它们存储在Weaviate中，然后使用GPT对这些文件进行生成搜索。可能性是无穷无尽的！

个性化聊天GPT

Weaviate检索插件启用的另一个很棒的应用程序是围绕您的个人详细信息自定义GPT。下面我将有关我的朋友的详细信息添加到Weaviate中，并让它为我即将到来的派对计划菜单！👇

您可以为自己个性化 GPT 的另一种方法是让它了解您是谁。例如，下面我告诉 GPT 我理解的语言，并围绕它对我的了解定制它的响应。

帮助聊天GPT记住

对于最后一个示例，我将分享我认为Weaviate检索插件最令人兴奋和最可怕的应用程序之一：

使用它来将您以前与GPT进行的对话的记忆保存到Weaviate中，以便它可以在以后的对话中引用它们。目前无法告诉 GPT 通过聊天在附加的矢量数据库中保留某些内容，因此我通过在对话之间手动将聊天内容添加到 Weaviate 来复制这一点。

首先，我启动了一个聊天会话，并向 GPT 提供了有关我的宠物的这些详细信息：

然后我完全关闭 GPT，将聊天内容插入 Weaviate，然后初始化一个全新的聊天并询问：

瞧！GPT 现在会记住它之前与你的对话 – 将它们保留在 Weaviate 的附加实例中！

在对话人工智能机器人中，能够注入私有数据，以及长期记忆是特别重要的一环。它能够解决很多实际生产中的问题。

期待更好AI的发展，帮助每一个人！