周末杂记 一些Docker自用服务 bitwarden 搭建方式 拉取Docker 镜像 , 然后配置 https 可以在 CF 处直接配置 ` docker run -d --name vaultwarden -v /vw-data/:/data/ -p 80:80 -e SIGNUPS_ALLOWED=false vaultwarden/serv...

以一个用户的角度聊一下大模型 ChatGPT 朋友,最早与你认识并一直陪在你的身边,在一起在两三年,见面是那么简单且那么顺畅, 虽然会有时候因为异地而有损耗我们的交流,但是你一直是我觉得最可靠和最值得信赖的,而你也一直经历很多,你有时候拿第一 有时候又被小伙伴反超,但自始至终我都是很喜欢你我的初见惊艳和相处甚久的踏实与信赖 Gemini 与你相识,是一个美丽...

在Java世界中，数据持久化是应用开发不可或缺的一环。传统的JDBC（Java Database Connectivity）方式虽然提供了与数据库交互的基础能力，但在实际开发中却暴露出不少问题： 资源消耗与性能瓶颈：频繁的数据库连接创建与释放会消耗系统资源，影响性能（尽管连接池可以缓解）。 SQL硬编码与维护难题：SQL语句直接硬编码在Java代码中，使得...

Callback 处理 回调概念 LangChain提供了一个回调系统，允许您连接到LLM应用程序的各个阶段。这对于日志记录、监控、流式处理和其他任务非常有用。 您可以通过使用API中的<font style="color:rgb(28, 30, 33);">callbacks</font>参数订阅这些事件。这个参数是处理程序对象的列...

模型微调的基本模式 全量微调 局部微调 增量微调 Model Scope 在线训练平台介绍 使用 Model Scope 在线训练 GPT2 选配AutoDL服务器并使用vscode远程连接 AutoDL网站地址: https://www.autodl.com/home 通过VSCode和SSH使用AutoDL服务器训练模型教程地址: https://w...

什么是检索增强生成？ 检索增强生成（RAG）是指对大型语言模型输出进行优化，使其能够在生成响应之前引用训练数据来源之外的权威知识库。大型语言模型（LLM）用海量数据进行训练，使用数十亿个参数为回答问题、翻译语言和完成句子等任务生成原始输出。在 LLM 本就强大的功能基础上，RAG 将其扩展为能访问特定领域或组织的内部知识库，所有这些都无需重新训练模型。这是一...

向量数据库（Vector Database），也叫矢量数据库，主要用来存储和处理向量数据。 在数学中，向量是有大小和方向的量，可以使用带箭头的线段表示，箭头指向即为向量的方向，线段的长度表示向量的大小。两个向量的距离或者相似性可以通过欧式距离或者余弦距离得到。 图像、文本和音视频这种非结构化数据都可以通过某种变换或者嵌入学习转化为向量数据存储到向量数据库中，...

Intel ARC Graphics 显卡基于Pytorch xpu进行训练环境 背景：WIn电脑不是N卡，是ARC 770 ，记录配置xpu的环境搭建过程 环境搭建要求： 英特尔独立显卡的驱动程序 Intel® oneAPI Base Toolkit （下载地址：https://www.intel.cn/content/www/cn/zh/develop...

多模态数据传输 这里我们演示如何将多模态输入直接传递给模型。我们目前期望所有输入都以与OpenAI 期望的格式相同的格式传递。对于支持多模态输入的其他模型提供者，我们在类中添加了逻辑以转换为预期格式。 在这个例子中，我们将要求模型描述一幅图像。 image_url = "https://upload.wikimedia.org/wikipedia/commo...

Few shot(少量示例) 创建少量示例的格式化程序 创建一个简单的提示模板，用于在生成时向模型提供示例输入和输出。向LLM提供少量这样的示例被称为少量示例，这是一种简单但强大的指导生成的方式，在某些情况下可以显著提高模型性能。 少量示例提示模板可以由一组示例或一个负责从定义的集合中选择一部分示例的示例选择器类构建。 配置一个格式化程序，将少量示例格式化为...