旧 | 第 2 页,共 2 页
-
在 SageMaker 上部署 Huggingface 模型 (一)
在 Huggingface 上浏览模型的时候,会看到一个 Deploy 按钮,很多模型点开会看到 Amazon SageMaker 选项,然后会看到一段代码。今天便试了一下这个,下面是测试过程:在本机运行运行代码,把 Huggingface 的 模型部署到 SageMaker 上并运行推理。
-
使用 LLM embeddings 进行数据存储和检索的新姿势
大语言模型可以将文字转化为 embeddings, embeddings 是一个向量(浮点数) 数组。把向量数组存到数据库,然后我们通过搜索最接近的向量就可以得到搜索结果了。本文试验了这一方式。
-
ChatGLM-6B 的 Lora 微调
本文是开源项目的使用记录,按照文档操作, finetune 的过程其实很简单。
-
在 AWS 部署 AI 文生图为 Restful API 的最简单方式
当你的大模型练就之后,“很容易” 将模型部署到 SageMaker,但我们一般需要通过 Restful API 集成到应用中。本文以 Stable Diffussion 为例,介绍了一种简便的集成方法,并提供了代码。
-
企业微信集成 ChatGPT 开发笔记
原来是想使用企业微信的机器人来集成 ChatGPT,但… 这玩意不支持收消息,只能推送消息,所以只能另寻他法。