马斯克版ChatGPT背后开发工具上线!xAI产品两连发,网友:交付速度太疯狂

发布时间:2023-11-07 05:05:47 浏览量:96次

“帮助开发人员改进和理解大模型的工具”

鱼羊 发自 麦蒿寺

|  

马斯克版ChatGPT才刚吸引一波眼球,xAI第二款大模型产品就突然登场了!

就在刚刚,马斯克旗下xAI官宣:推出PromptIDE

一个用于提示工程和可解释性研究的集成开发环境。

马斯克版ChatGPT背后开发工具上线!xAI产品两连发,网友:太快了

xAI表示,他们打造PromptIDE的最初目的,是加速其聊天AI机器人Grok的开发——

根据官方透露的信息,刚刚开启内测的Grok是xAI创始团队11人爆肝2个月打造的。

而PromptIDE紧跟着Grok推出,如此快速的产品发布节奏,也让网友们不由惊呼:

xAI团队的交付速度太疯狂了!

马斯克版ChatGPT背后开发工具上线!xAI产品两连发,网友:太快了

那么,PromptIDE具体有什么用?一起来看。

什么是PromptIDE

PromptIDE的主要功能包括:

  • 用于提示工程的集成开发环境
  • Python代码编辑器和用于高级提示技术的SDK
  • 可视化分析功能

先来看其核心组成部分,即Python代码编辑器+SDK

官方提到,基于SDK,用户可以在PromptIDE里“优雅地”实现复杂的提示技术。

比如,使用prompt()函数手动将token添加到上下文中,或者使用sample()函数根据上下文生成token。

马斯克版ChatGPT背后开发工具上线!xAI产品两连发,网友:太快了

Python代码编辑器是在单独的Web Worker里运行的。多个Web Worker可以同时跑,也就是说,开发者可以并行执行多个提示。

另外,复杂提示技术还可以通过在同一个程序内使用多个上下文来实现。这套操作主要是通过@prompt_fn装饰器来完成。

这样做的好处是,能够设计一些更具挑战性对话实验,让聊天AI能理解和回答更加复杂的问题。

再来重点关注一下PromptIDE的可视化分析功能。

在执行提示时,用户可以在这个IDE中看到详细的token分析,也就是能更清楚地get模型到底在输出些什么。

马斯克版ChatGPT背后开发工具上线!xAI产品两连发,网友:太快了

从上图中可以看到,窗口会显示上下文的精确分词(tokenization)和每个token的数字标识符。

单击token,还可以看到这个token更为详细的分析信息。

马斯克版ChatGPT背后开发工具上线!xAI产品两连发,网友:太快了

其他方面,在PromptIDE中使用user_input()函数,界面中会弹出一个文本框,让用户能够实现交互式提示。

这使得快速搭建一个聊天机器人成为可能,只需要四行代码:

await prompt(PREAMBLE)
while text := await user_input(“Write a message”):
await prompt(f”<|separator|>nnHuman: {text}<|separator|>nnAssistant:”)
await sample(max_len=1024, stop_tokens=[“<|separator|>”], return_attention=True)

另外,PromptIDE还支持上传文件(每个文件最多5MiB,总大小不超过50MiB)。

更多细节,可以参考xAI官方博文。

简单总结起来,正如马斯克自己所说,PromptIDE是“帮助开发人员改进和理解大模型的工具”。

马斯克版ChatGPT背后开发工具上线!xAI产品两连发,网友:太快了

目前,已经尝鲜Grok的盆友,也可以获得PromptIDE的体验资格。

这里再放一下Grok的体验渠道:

  1. 有蓝勾认证的账号,可以到xAI官网排队;
  2. 订阅16美元/月的 Premium+服务,内测结束后会开放使用。

参考链接:
[1]官方博文:https://x.ai/prompt-ide/
[2]https://twitter.com/xai/status/1721568361883279850

热门课程推荐

热门资讯

请绑定手机号

x

微信扫码在线答疑

扫码领福利1V1在线答疑

点击咨询
添加老师微信,马上领取免费课程资源

1. 打开微信扫一扫,扫描左侧二维码

2. 添加老师微信,马上领取免费课程资源

同学您好!

您已成功报名0元试学活动,老师会在第一时间与您取得联系,请保持电话畅通!
确定