第40期 | GPTSecurity周报

图片

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大语言模型(LLM)等安全领域应用的知识。在这里,您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令(Prompts)。现为了更好地知悉近一周的贡献内容,现总结如下。

Security Papers

1.利用大语言模型进行漏洞检测方面的进展总结

简介:随着软件变得越来越复杂且容易出现漏洞,自动化漏洞检测变得至关重要,但也具有挑战性。随着大语言模型(LLMs)在各种任务中取得重大成功,人们对它们在漏洞检测中的效力越来越期待。然而,对它们在漏洞检测中的潜力缺乏定量的理解。为了弥补这一差距,研究者引入了一个全面的漏洞基准VulBench。该基准汇集了来自各种CTF(夺旗)挑战和真实应用程序的高质量数据,为每个易受攻击的函数提供了详细的漏洞类型和其根本原因的注释。通过对16个LLMs和6个最先进的基于深度学习的模型和静态分析器的实验,研究者发现一些LLMs在漏洞检测方面优于传统的深度学习方法,揭示了LLMs在这一领域尚未开发的潜力。这项工作有助于理解和利用LLMs来增强软件安全性。

链接:

https://arxiv.org/pdf/2311.12420.pdf

2.在软件渗透测试中使用大语言模型的初步研究

简介:大语言模型(LLM)在软件渗透测试中具有潜力,能够与人类操作员进行交互,逐步改进特定的安全任务。通过设计输入提示来提供上下文和结构,可以使模型提供更准确的结果。利用LLM构建的AI智能体在软件渗透测试中展现了可行性,并且可以通过反复使用和提示工程的工程方法来进一步改进。

链接:

https://browse.arxiv.org/pdf/2401.17459.pdf

3.LLM4SecHW:利用特定领域的大语言模型进行硬件调试

简介:这篇论文介绍了一种名为LLM4SECHW的新框架,利用领域特定的大语言模型(LLM)进行硬件调试。该框架通过编译版本控制数据集,实现了对硬件设计中错误的识别和修正,并在多种开源硬件设计上展示了其有效性。这种方法为其他领域中应用领域特定LLM的微调提供了参考工作流程,并为硬件设计中的自动化质量控制过程带来了新的视角。

链接:

https://browse.arxiv.org/pdf/2401.16448.pdf

4.LLM的安全代码审查:深入调查响应

简介:该研究对三种最先进的大语言模型(Gemini Pro、GPT-4和GPT-3.5)在549个包含真实代码审查的安全缺陷的代码文件上的检测性能进行了比较。结果显示,LLMs生成的响应存在冗长、含糊和不完整的问题,需要提升其简洁性、可理解性和符合安全缺陷检测的能力。

链接:

https://browse.arxiv.org/pdf/2401.16310.pdf

5.基于覆盖引导强化学习与以大语言模型为基础进行变异的JavaScript模糊测试引擎

简介:本文提出了一种名为CovRL的新技术,该技术将大语言模型与覆盖反馈的强化学习相结合,旨在提高模糊测试的效果。CovRL-Fuzz模糊器通过构建加权覆盖图和计算模糊测试奖励,可以生成更可能发现新覆盖区域的测试用例,从而提高漏洞检测能力,同时最小化语法和语义错误。评估结果显示,CovRL-Fuzz在代码覆盖率和错误发现能力方面超过了当前最先进的模糊器,发现了48个与安全相关的实际错误,其中包括39个以前未知的漏洞和11个CVE。

链接:

https://arxiv.org/pdf/2402.12222.pdf

图片

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://xiahunao.cn/news/2812606.html

如若内容造成侵权/违法违规/事实不符,请联系瞎胡闹网进行投诉反馈,一经查实,立即删除!

相关文章

SpringBoot:Invalid bound statement (not found)的原因和解决方案

🐓 报错信息: (无效绑定声明)找不到 解析: 你的mapper实例对象和对应的mapper.xml对象未找到 🐓 排查: 情况一: 1.排除相对应的mapper实例对象路径是否正确 查看相对应的mapper中…

一个完整的性能测试流程,究竟应该是什么样子的?

下午逛一个测试交流群时,聊起性能测试,然后某位群成员说“会用load runner不就是会做性能测试?” 当时觉得这话有点偏颇,虽然我也是一个性能测试道路上的摸索前进者,但是load runner≠性能测试,或者说&…

vue3自定义实现悬浮固定按钮组件

目录 一、需求描述二、代码解读三、结果展示 一、需求描述 需要5个固定的悬浮圆,居于页面的右侧。鼠标悬浮在圆上面会显示对应的文字提示其中包含返回顶部悬浮圆,当页面滑至底部时出现,点击页面滑到顶部。点击按钮会给出弹窗 二、代码解读…

谷歌最强轻量级开源大模型Gemma:小尺寸可商用,性能超越Llama-2,个人PC就能用

前言 谷歌近日发布了其最新的轻量级、开源AI模型——Gemma,这一举措无疑在AI领域引起了广泛的关注。不同于其他闭源大模型,Gemma的推出标志着谷歌在开放模型领域的重要一步,意图通过开放、共享的方式,加速AI技术的普及和应用。 G…

无法访问云服务器上部署的Docker容器(二)

说明:记录一次使用公网IP 接口地址无法访问阿里云服务接口的问题; 描述 最近,我使用Docker部署了jeecg-boot项目,部署过程都没有问题,也没有错误信息。部署完成后,通过下面的地址访问后端Swagger接口文档…

【踩坑】修复报错 you should not try to import numpy from its source directory

转载请注明出处:小锋学长生活大爆炸[xfxuezhang.cn] 报错如下: 修复方法一: pip install pyinstaller5.9 修复方法二: pip install numpy1.24.1

使用vuetify实现全局v-alert消息通知

前排提示,本文为引流文,文章内容不全,更多信息前往:oldmoon.top 查看 简介 使用强大的Vuetify开发前端页面,结果发现官方没有提供简便的全局消息通知组件(像Element中的ElMessage那样)&#xf…

在SAP HANA中使用OData(二)

通常有两种方式通过OData来暴露SAP HANA中的数据库对象,一是直接使用Database Object,比如前一篇和本篇文章介绍的例子,这种方式针对于数据已经存在于SAP HANA中,在Repository中没有对应的设计时对象(Design-time Object)&#xf…

顺丰科技2024届春季校园招聘常见问题解答及SHL测评题库

顺丰科技2024届春季校园招聘常见问题解答及SHL测评题库 Q:顺丰科技2024届校园招聘面向对象是? A:2024届应届毕业生,毕业时间段为2023年10月1日至2024年9月30日(不满足以上毕业时间的同学可以关注顺丰科技社会招聘或…

【深度学习笔记】卷积神经网络——LeNet

卷积神经网络(LeNet) sec_lenet 通过之前几节,我们学习了构建一个完整卷积神经网络的所需组件。 回想一下,之前我们将softmax回归模型( sec_softmax_scratch)和多层感知机模型( :numref:sec_m…

使用mimikata获取域控权限(无免杀)

一、实验环境 windows 7 ip:192.168.1.3 (域内普通用户,有本地管理员权限,但不知明文密码) windows server 2012 ip:192.168.1.1 (DC域控,与server2012管理员密码相同,但不知明文密码)二、准备工作 1、使…

一文读懂 Python 值传递和引用传递

文章目录 版本前言形参和实参值传递和引用传递Python 变量存储值语义和引用语义值语义引用语义 探讨 Python 值传递和引用传递不可变(immutable)类型可变(mutable)类型案例一案例二 拓展:不可变类型真的不可变&#xf…

基于Java SSM框架实现家庭食谱管理系统项目【项目源码+论文说明】

基于java的SSM框架实现家庭食谱管理系统演示 摘要 本论文主要论述了如何使用JAVA语言开发一个家庭食谱管理系统 ,本系统将严格按照软件开发流程进行各个阶段的工作,采用B/S架构,面向对象编程思想进行项目开发。在引言中,作者将论…

大数据可视化的设计规范,全面剖析,很实用。

大数据可视化的设计规范需要考虑到数据量大、复杂度高、数据类型多样等特点。以下是一份常见的大数据可视化设计规范,供您参考: 设计原则 简单易用:保证用户操作简单、直观,降低用户认知负担。数据准确:保证数据准确…

如何保护企业免受人工智能网络钓鱼攻击

文章目录 前言一、生成式人工智能带来了新的网络安全威胁二、人工智能将使网络钓鱼攻击变得更加危险三、企业如何阻止人工智能驱动的网络钓鱼四、网络钓鱼模拟确保责任感和适应性前言 网络钓鱼是网络犯罪分子社会工程武器库中的超级武器。网络钓鱼尤其危险,因为它是网络犯罪分…

力扣经典题目解析--搜索二维矩阵(小米一面)

原题地址: . - 力扣(LeetCode) 给你一个满足下述两条属性的 m x n 整数矩阵: 每行中的整数从左到右按非严格递增顺序排列。每行的第一个整数大于前一行的最后一个整数。 给你一个整数 target ,如果 target 在矩阵中&#xff0c…

一键生成values-sw<N>dp文件夹插件

插件名&#xff1a;SmallestWidth Dimens&#xff0c;可在AS插件中搜索安装 安装插件后&#xff0c;可使用快捷键ALTP或者在Tools|SmallestWidth 启动插件 插件启动后可自主选择要在那个moudel下生成values-sw<N>dp文件夹&#xff0c;默认有一些文件夹&#xff0c;你也…

Day 2.exec函数族和线程的基本概念、相关函数接口

exec函数族 extern char **environ; int execl(const char *path, const char *arg, ... /* (char *) NULL */); int execlp(const char *file, const char *arg, ... /* (char *) NULL */); int execle(const…

无人艇军事应用展望与思考

源自&#xff1a;《远望要报》 作者&#xff1a;赵国安 “人工智能技术与咨询” 发布 一、无人艇作战使用场景 二、军用无人艇的发展趋势 三、军用无人艇的关键技术 四、世界主要国家无人艇发展动态 结束语 声明:公众号转载的文章及图片出于非商业性的教育和科研目的供大家参…

Vue概念详解【目录】

本专栏简介&#xff1a; 这个专栏是关于 Vue2 和 Vue3 各种概念的大集合&#xff01;它深入挖掘原理&#xff0c;分析各种优势和劣势&#xff0c;适配各种应用场景&#xff0c;部分内容还列出了代码示例&#xff0c;以清晰地讲述原理。在这里&#xff0c;你将全面了解 Vue2 和…