OpenAI 函数调用 功能入门

首页 编程分享 EXPERIENCE 正文

AI小火箭工作日志 转载 编程分享 2023-06-25 19:04:24

简介 作者:AI小火箭的HB 我是AI小火箭的HB,我探索和写作人工智能和语言交叉点的所有事物,范围从LLM,聊天机器人,语音机器人,开发框架,以数据为中心的潜在空间等。 范例 初步体验 OpenAI新增了“函数调用”功能,这是什么呢? 我们先调用API来体验下。 下面是发送到模型的 JSON 文档。此调用的目的是生成一个 JSON 文件,该文件可用于发送到发送电子邮件的 API。 您可以看到函数名称为


 

作者:AI小火箭的HB

我是AI小火箭的HB,我探索和写作人工智能和语言交叉点的所有事物,范围从LLM,聊天机器人,语音机器人,开发框架,以数据为中心的潜在空间等。

 

范例

 

 

初步体验

OpenAI新增了“函数调用”功能,这是什么呢?

我们先调用API来体验下。

下面是发送到模型的 JSON 文档。此调用的目的是生成一个 JSON 文件,该文件可用于发送到发送电子邮件的 API。

您可以看到函数名称为 send_email,并定义了三个参数, to_addresssubjectbody ,即电子邮件正文。

用户请求为: Send Cobus from humanfirst ai an email asking for the monthly report?

curl --location 'https://api.openai.com/v1/chat/completions' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer sk-xxxx' \
--data '{
  "model": "gpt-3.5-turbo-0613",
  "messages": [
    {"role": "user", "content": "Send Cobus from humanfirst ai an email asking for the monthly report?"}
  ],
  "functions": [
    {
      "name": "send_email",
      "description": "Please send an email.",
      "parameters": {
        "type": "object",
        "properties": {
          "to_address": {
            "type": "string",
            "description": "To address for email"
          },          
          "subject": {
            "type": "string",
            "description": "subject of the email"
          },
          "body": {
            "type": "string",
            "description": "Body of the email"
          }
        }
      }
    }
  ]
}'
下面是返回的 JSON

{
    "id": "chatcmpl-7TQuwzJpQAY470saQM2RPfxwF6DDE",
    "object": "chat.completion",
    "created": 1687249338,
    "model": "gpt-3.5-turbo-0613",
    "choices": [
        {
            "index": 0,
            "message": {
                "role": "assistant",
                "content": null,
                "function_call": {
                    "name": "send_email",
                    "arguments": "{\n  \"to_address\": \"cobus@humanfirst.ai\",\n  \"subject\": \"Request for Monthly Report\",\n  \"body\": \"Hi Cobus,\\n\\nI hope you're doing well. Could you please share the monthly report with me? It would be great to have it before the end of the week.\\n\\nThanks,\\n[Your Name]\"\n}"
                }
            },
            "finish_reason": "function_call"
        }
    ],
    "usage": {
        "prompt_tokens": 86,
        "completion_tokens": 82,
        "total_tokens": 168
    }
}

GPT模型会返回需要调用的函数名 send_email和对应的参数(放在arguments字段)。

{
  "to_address": "cobus@humanfirst.ai",
  "subject": "Request for Monthly Report",
  "body": "Hi Cobus,\n\nI hope you're doing well. Could you please share the monthly report with me? It would be great to have it before the end of the week.\n\nThanks,\n[Your Name]"
}

这就非常有用,第三方的应用可以提供多个函数/服务(类似插件),GPT模型可以根据用户的指令自动选择不同的函数/服务。

 

现在再来看示例,就比较清晰了。

 

用途

根据官网文档,函数调用允许您更可靠地从模型中获取结构化数据。例如,您可以:

  • 创建聊天机器人,通过调用外部 API 来回答问题(例如 ChatGPT 插件)

    • 例如,定义像 send_email(to: string, body: string)get_current_weather(location: string, unit: 'celsius' | 'fahrenheit') 这样的函数

  • 将自然语言转换为 API 调用

    • 例如,将“谁是我的顶级客户?”转换为 get_customers(min_revenue: int, created_before: string, limit: int) 并调用您的内部 API

  • 从文本中提取结构化数据

    • 例如,定义一个名为 extract_data(name: string, birthday: string)sql_query(query: string) 的函数

 

函数调用的基本步骤顺序如下:

  1. 使用用户查询和函数参数中定义的一组函数调用模型。

  2. 模型可以选择调用函数;如果是这样,内容将是符合自定义架构的字符串化 JSON 对象(注意:模型可能会生成无效的 JSON 或幻觉参数)。

  3. 在代码中将字符串解析为 JSON,并使用提供的参数调用函数(如果存在)。

  4. 通过将函数响应追加为新消息来再次调用模型,并让模型将结果汇总回给用户。

 

AI小火箭

AI小火箭已经支持函数调用和gpt-3.5-turbo-16kgpt-3.5-turbo-0613gpt-3.5-turbo-16k-0613,大家可以去体验下。

 

转载链接:https://my.oschina.net/u/6793601/blog/10084168


Tags:


本篇评论 —— 揽流光,涤眉霜,清露烈酒一口话苍茫。


    声明:参照站内规则,不文明言论将会删除,谢谢合作。


      最新评论




ABOUT ME

Blogger:袅袅牧童 | Arkin

Ido:PHP攻城狮

WeChat:nnmutong

Email:nnmutong@icloud.com

标签云