TypeChat:大语言模型换种玩法,一行代码即可安装

auto 业界资讯 Github推荐来源:机器之心Pro评论3,251字数 952阅读3分10秒阅读模式

TypeChat:大语言模型换种玩法,一行代码即可安装

文章源自IT老刘-https://itlao6.com/11144.html

文章源自IT老刘-https://itlao6.com/11144.html

借助 TypeChat,您可以轻松获得类型良好的结构化数据。文章源自IT老刘-https://itlao6.com/11144.html

文章源自IT老刘-https://itlao6.com/11144.html

近几个月来,大型语言模型引发了热议,许多人通过对话方式与这些模型进行交流,这是一种直接的沟通方式。然而,将这些模型优雅地集成到现有的应用程序界面中依然面临挑战。文章源自IT老刘-https://itlao6.com/11144.html

问题在于,我们如何能够将用户的自然语言请求转化为应用程序可处理的内容?同时,我们又如何确保我们的应用程序是安全的,并让开发者和用户都信赖其中的工作过程?文章源自IT老刘-https://itlao6.com/11144.html

为了解决上述问题,微软推出了一个名为TypeChat的实验性库。这个库能够轻松地获取类型良好的结构化数据,搭建自然语言与应用程序模式(application schema)以及API之间的桥梁。文章源自IT老刘-https://itlao6.com/11144.html

文章源自IT老刘-https://itlao6.com/11144.html

TypeChat:大语言模型换种玩法,一行代码即可安装

文章源自IT老刘-https://itlao6.com/11144.html

文章源自IT老刘-https://itlao6.com/11144.html

项目地址:
https://github.com/Microsoft/TypeChat文章源自IT老刘-https://itlao6.com/11144.html

文章源自IT老刘-https://itlao6.com/11144.html

目前,TypeChat 已经与 OpenAI API 和 Azure OpenAI 服务进行了一些非常基本的集成。文章源自IT老刘-https://itlao6.com/11144.html

文章源自IT老刘-https://itlao6.com/11144.html

网友表示:「借助 TypeChat,AI 能输出准确的 JSON 以与人类研发的系统集成。」文章源自IT老刘-https://itlao6.com/11144.html

文章源自IT老刘-https://itlao6.com/11144.html

TypeChat:大语言模型换种玩法,一行代码即可安装

文章源自IT老刘-https://itlao6.com/11144.html

文章源自IT老刘-https://itlao6.com/11144.html

「TypeChat 将 prompt 工程替换为 schema 工程:无需编写非结构化的自然语言 prompt 来描述所需输出的格式,而是编写 TS 类型定义。」文章源自IT老刘-https://itlao6.com/11144.html

文章源自IT老刘-https://itlao6.com/11144.html

TypeChat:大语言模型换种玩法,一行代码即可安装

还有网友表示 TypeChat 是迈向未来的一大步。

TypeChat:大语言模型换种玩法,一行代码即可安装

至于为何构建 TypeChat 库,微软表示,当前人们可以与 LLM 进行对话交流,在这当中,需要解析语言,然而,人类输入的语言和 LLM 理解的语言在结构上差别很大,典型的软件很难从原始文本中重建语言。

TypeChat 可以帮助 LLM 以 JSON 的形式响应,并且响应结果非常合理:例如用户要求将这句话「我可以要一份蓝莓松饼和一杯特级拿铁咖啡吗?」转化成 JSON 格式,TypeChat 响应结果如下:

TypeChat:大语言模型换种玩法,一行代码即可安装

微软表示,他们一直在提示符中使用 TypeScript 类型,可以说,给定一个提示和 TS 类型,聊天机器人就会使用这些类型构造一个新提示:

TypeChat:大语言模型换种玩法,一行代码即可安装

TypeChat:大语言模型换种玩法,一行代码即可安装

以下是将 TypeChat 连接到 LLM 并确定句子是否定、中性还是肯定的基本代码。

TypeChat 可以以多种不同的方式使用。目前微软讨论的方式主要是使用数据模式将用户意图转换为结构化响应;然而,TypeChat 还可以使用 API 模式来构建基本程序。

https://microsoft.github.io/TypeChat/blog/introducing-typechat/

继续阅读
weinxin
我的微信公众号
微信扫一扫关注公众号,不定时更新
auto
  • 版权声明 本文源自 机器之心Pro 整理 发表于 2023年 7月 26日 14:25:53
  • 转载请务必保留本文链接:https://itlao6.com/11144.html