大语言模型

大语言模型很智能，可以干很多事，鸿图试着采用一种全新的方式，帮助你快速接入大语言模型，构建万物互联时代的创新型应用。

前置条件

此能力需要先登录

添加节点

右键单击画布任意位置，选择人工智能，选择大语言模型。

初始设置如下：

其中：

• 意图：大模型对用户的输入进行分类，用于判断用户输入的语义。
• 实体：意图的操作对象，比如打豆豆，打是意图，豆豆是实体。
• 补充：发送给大模型的额外提示信息，可以帮助大模型返回我们需要的结果。
• 查询：用户的真实输入。

下面用一个开关灯的例子来说明：

在该例中，我们告诉大模型识别两个意图，分别为开灯 关灯，可能的实体包括楼层和设备编号。我们进一步补充：

返回 json 数据:{<意图>:{<实体>}}。
只返回 json，不包含辅助文字。
将返回的所有实体数据转为阿拉伯数字。

• 补充一：决定了返回 json 的数据结构，对于意图|实体类的应用，只能返回上面的结构，否则无法解析。
• 补充二：如果不强调，大模型可能返回文本+json，如：返回数据如下: { x: y }，而我们只需要 { x: y }
• 补充三：中文数字不利于后续程序的执行。

扩展

大模型的意图和实体可以根据业务场景扩展。扩展不需要重新训练，只需要在意图和实体中添加需要扩展的项即可。不得不说，大模型确实很强大。

更多场景

用同样的方法，可以轻松实现很多场景，比如：

鸿图核心价值

• 以直观、可视化的方式，完成大语言模型的提示语开发（prompt engineering）
• 解析 JSON 返回，得到细颗粒度数据，方便后续处理
• 大语言模型作为一个节点，可以和其他节点进行联动，实现更复杂的业务逻辑

多步骤

大语言模型支持多步骤，可以实现更复杂的业务逻辑。比如我们可以要求它先开灯，然后等待一段时间，再关掉。如：

打开四楼十二号灯，等待三秒后，再关掉

连线如下：

让人吃惊的是，大语言模型正确地将再关掉这三个字解析成我们需要的意图和实体，可见它对上下文的把握已经达到相当高的水平。注意观察打印日志的时间，可以看到，鸿图是按步骤执行的，且准确的等待了输入所要求的时间。