HuggingFists系统功能介绍(5)--环境资源

模型库

    模型库用于管理由HuggingFists系统自己生成的或者外部导入的各种模型。如:HuggingFace网站提供的各类模型可导入该模块进行统一管理及部署。该功能目前在HuggingFists的社区版中并未提供。

环境管理

环境管理-工作节点

环境管理-服务配置

        环境管理主要用于与使用者的环境进行整合,最大限度的整合使用者已具备的各类能力。这种整合即可以提升工程实施效率又可以节省实施成本。

        环境管理目前包括:集群、工作节点以及服务配置三个子模块。其中集群模块在HuggingFists的社区版中并未提供。该模块主要用于整合使用者环境中的计算集群,方便调度运行基于Spark、Flink计算框架编写的流程。

        工作节点用于管理HuggingFists的计算节点,用于解释执行基于算子定义的数据处理或分析流程。HuggingFists的社区版缺省状况下只安装了一个单机计算节点,其企业版支持安装管理多计算节点。当使用者流程众多且需要并发调度时,可以将流程交给不同的计算节点并发运行。

        服务配置用于管理各类连接器、算子运行时所需的公共服务。如:Http代理等。

        环境管理介绍完了,下面我们看一下资源库管理。

资源库

      

    资源库管理包括连接器库、算子库以及Prompt(提示)库三种类型的库。

连接器库

        连接器库用于注册管理各类连接器。连接器是HuggingFists中的一种特殊插件,通过连接器可以创建与各类存储系统的数据连接。每种数据源都有一个专属的连接器。连接器分为四类,如我们在数据源中介绍的,数据源分为数据库、文件系统、事件流以及应用系统四类。连接器的类型与此一一对应。

        HuggingFists系统提供了一套连接器的开发标准,目前尚未开放。等标准开放后,开发者可以依此标准扩展打包不同的连接器。并通过“上传”按钮注册连接器。连接器注册成功后,在数据源管理模块就可以看到连接器所注册的数据源类型并可创建对应的数据源了。

算子库

        再看一下算子库。算子库用于注册管理各类算子。HuggingFists提供的算子主要分为:输入、输出、读取、写出、处理、分析、资源、控制以及动作9类。算子库以算子类型作为分组标准对算子进行分组管理。

  1. 输入算子用于从数据源读取数据;输出算子用于向数据源写出数据;当一个流程中一般每增加一个连接器就会配套增加一对输入、输出算子。
  2. 资源算子用于优化输入、输出时的资源占用,如数据库连接算子,当某个流程中需要读写同一数据库时,可以加入一个数据库连接算子,使数据库的读写算子复用同一数据连接。
  3. 读取算子用于特定格式文件;写出算子用于写出特定格式的文件。
  4. 处理算子用于实现对数据的各类处理,这是算子库中最丰富的一类算子。
  5. 分析算子封装了各类分析算法,用于实现对数据的模型训练,如:分类、聚类等算法。
  6. 控制算子用于控制数据流的流转逻辑。如:条件控制算子、数据集复制算子等。
  7. 动作算子用于完成特定功能的操作,如:表清空操作、文件删除操作等。

使用者可以通过“检索”页面检索所需的算子,了解算子的用法。

Prompt库

再看一下Prompt提示库。该库主要用于管理提示工程中的“提示”。如今“提示”是使用者与LLM交互的桥梁。使用者通过向LLM输入提示信息来驱动模型完成指定的工作。由于LLM内部知识呈现黑盒特征,且不同的LLM间也有差异。所以使用者需要“提示工程”来设计和积累输入何种提示信息能够让LLM按照使用者的要求输出结果。

HuggingFists给出了提示库管理功能,可以帮助用户不断积累提示模板。支持使用者对提示模板进行分组管理;支持使用者设置提示模板可以应用的模型族系、类型等信息。

HuggingFists是目前为数不多能够提供提示模板积累并可以直接应用的工具。

总结

    HuggingFists系统的基本功能我们介绍完了。感兴趣的朋友可以安装并试用下了。通过本次介绍,使用者应该可以自行搭建自己的数据处理或分析流程了。至于HuggingFists系统还有很多应用细节,我们后续将再做专题介绍。在此之前,大家也可以自行点击摸索使用,期间大家碰到什么问题或有任何建议可以扫描下面的二维码加入群组与我们一起讨论。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://xiahunao.cn/news/2810164.html

如若内容造成侵权/违法违规/事实不符,请联系瞎胡闹网进行投诉反馈,一经查实,立即删除!

相关文章

GO数组解密:从基础到高阶全解

在本文中,我们深入探讨了Go语言中数组的各个方面。从基础概念、常规操作,到高级技巧和特殊操作,我们通过清晰的解释和具体的Go代码示例为读者提供了全面的指南。无论您是初学者还是经验丰富的开发者,这篇文章都将助您更深入地理解…

域名系统与IP地址分配

域名 域名的概述 域名是一个逻辑的概念,它不反映主机的物理地点 域名结构 由于数字形式的IP地址难以记忆和理解,为此人们采用英文符号来表示IP地址,这就产生了域名,域名长度不超过255各字符,每一层域名长度不超过6…

[云原生] 二进制安装K8S(中)部署网络插件和DNS

书接上文,我们继续部署剩余的插件 一、K8s的CNI网络插件模式 2.1 k8s的三种网络模式 K8S 中 Pod 网络通信: (1)Pod 内容器与容器之间的通信 在同一个 Pod 内的容器(Pod 内的容器是不会跨宿主机的)共享…

辽宁博学优晨教育视频剪辑培训探索学习新意义

在当今数字化快速发展的时代,视频已成为信息传达的重要载体。辽宁博学优晨教育视频剪辑培训应运而生,不仅为学员提供了专业的学习平台,更在探索学习的意义方面赋予了新的内涵。 视频剪辑作为现代媒体行业的重要技能,其学习意义不仅…

[c++] 智能指针(shared_ptr, weak_ptr, unique_ptr)

c 中的智能指针让 c 看起来像 java,go 这种带 GC 的语言,但和 GC 又不完全相同。c 中的智能指针使用引用计数,当引用计数减为 0 的时候就会立即释放资源,释放资源具有实时性;而像 java,go 这样的 GC 语言&a…

软考中项- 3.5软件架构;3.6典型应用集成技术

文章目录 1. C/S模式:基于资源不对等,为实现共享而提出的模式。2. 数据库和数据仓库的区别3. 关于软件分层架构描述4. 管道/过滤器模式5. javaEE的运行环境6、 针对目前广泛使用的分布式应用,其软件架构设计需要考虑如下问题:7. w…

【蓝桥杯】拓扑排序

一.拓扑排序 1.定义: 设G(V,E)是一个具有n个顶点的有向图,V中的顶点序列称为一个拓扑序列,当且仅当满足下列条件:若从顶点到有一条路径,则在顶点序列中顶点必在之前。 2.基本思想…

DVWA 靶场之 Command Injection(命令执行)原理介绍、分隔符测试、后门写入与源码分析、修复建议

在打靶之前我们需要先解决一个乱码问题 参考我之前的博客: 关于DVWA靶场Command Injection(命令注入)乱码的解决方案-CSDN博客 简单介绍一下命令执行漏洞: 命令执行漏洞是一种常见的网络安全漏洞,它允许攻击者通过向应…

【计算机网络】应用层自定义协议

自定义协议 一、为什么需要自定义协议?二、网络版计算器1. 基本要求2. 序列化和反序列化3. 代码实现(1)封装 socket(2)定制协议和序列化反序列化(3)客户端(4)计算器服务端…

SAP PO接口行项目json缺少中括号[]问题

PO接口小问题问题:如果需要同时传输DATA与ITEM,此处选择很重要,如果选择:HTTP Header ITEM将缺少[].需要注意 PO接口小问题 问题:如果需要同时传输DATA与ITEM,此处选择很重要,如果选择&#…

浏览器跨 Tab 窗口通信原理

前言 原文地址:浏览器跨 Tab 窗口通信原理及应用实践 作者是Chokcoco 一位css大牛。之前就从大佬的文章中学到了不少东西,最近大佬写了篇 浏览器跨 Tab 窗口通信原理及应用实践 感觉挺有意思的,自己打算学习记录一下。 文章中提出了三种方…

leetcode hot100 买卖股票的最佳时机二

注意,本题是针对股票可以进行多次交易,但是下次买入的时候必须保证上次买入的已经卖出才可以。 动态规划可以解决整个股票买卖系列问题。 dp数组含义: dp[i][0]表示第i天不持有股票的最大现金 dp[i][1]表示第i天持有股票的最大现金 递归公…

RestTemplate启动问题解决

⭐ 作者简介:码上言 ⭐ 代表教程:Spring Boot vue-element 开发个人博客项目实战教程 ⭐专栏内容:个人博客系统 ⭐我的文档网站:http://xyhwh-nav.cn/ RestTemplate启动问题解决 问题:在SpringCloud架构项目中配…

C++之多态

目录 一,概念等基础 1)多态的定义 2)虚函数 3)构成多态的条件 4)虚函数的作用 二,多态原理 1)虚指针 2)如何拿到这个虚指针 3)到底如何实现多态 一,概…

Vue ElementUI 修改消息提示框样式—messageBox 的大小

在窄屏模式下(移动端或pda),提示框的宽度太宽,会出现显示不完全的问题。 应当如何修改 ElementUI 的样式呢? open() {this.$confirm(window.vm.$i18n.t("tips.conLogOut"),window.vm.$i18n.t("tips.tip…

使用百度地图api根据输入的过个经纬度进行轨迹绘制并且可以标记

使用百度地图api根据输入的过个经纬度进行轨迹绘制并且可以标记 功能效果展示代码功能说明 功能效果展示 代码 <!DOCTYPE html> <html> <head><meta charset"utf-8"><title>根据经纬度绘制轨迹图</title><script type"…

K8S—集群调度

目录 前言 一 List-Watch 1.1 list-watch概述 1.2 list-watch工作机制 二 集群调度 2.1 调度过程 2.2 Predicate 和 Priorities 的常见算法和优先级选项 2.3 调度方式 三 亲和性 3.1 节点亲和性 3.2 Pod 亲和性 3.3 键值运算关系 3.4 Pod亲和性与反亲和性 3.5 示例…

golang学习1,dea的golang-1.22.0

参考&#xff1a;使用IDEA配置GO的开发环境备忘录-CSDN博客 1.下载All releases - The Go Programming Language (google.cn) 2.直接next 3.window环境变量配置 4.idea的go插件安装 5.新建go项目找不到jdk解决 https://blog.csdn.net/ouyang111222/article/details/1361657…

PCIE1—快速实现PCIE接口上下位机通信(一)

1.简介 PCI Express&#xff08;PCIE&#xff09;是一种高速串行总线标准&#xff0c;广泛应用于计算机系统中&#xff0c;用于连接主板和外部设备。在FPGA领域中&#xff0c;PCIE也被广泛应用于实现高速数据传输和通信。FPGA是一种灵活可编程的集成电路&#xff0c;可以根据需…

碳素光,碳光子,碳光灸 ,太阳灯 仪器

碳素光线疗法&#xff1a; 中西医、民间疗法融为一体&#xff0c;提高机体自身治愈力&#xff0c;免疫力&#xff0c;改善体质和保持健康&#xff0c;有助于疾病的预防和治疗的疗法。不吃药、不打针、不手术也能得健康&#xff0c;无任何副作用的自然物理疗法。 碳素光线仪市…