[Flink] Flink On Yarn(yarn-session.sh)启动错误

在Flink上启动 yarn-session.sh时出现 The number of requested virtual cores for application master 1 exceeds the maximum number of virtual cores 0 available in the Yarn Cluster.错误。

版本说明:

Hadoop: 3.3.4

Flink:1.17.1

问题

在Flink On Yarn上启动yarn-session.sh时出现如下错误:

ERROR org.apache.flink.yarn.cli.FlinkYarnSessionCli        [] - Error while running the Flink session.org.apache.flink.client.deployment.ClusterDeploymentException: Couldn't deploy Yarn session cluster
​	at org.apache.flink.yarn.YarnClusterDescriptor.deploySessionCluster(YarnClusterDescriptor.java:437) ~[flink-dist-1.17.1.jar:1.17.1]
​	at org.apache.flink.yarn.cli.FlinkYarnSessionCli.run(FlinkYarnSessionCli.java:608) ~[flink-dist-1.17.1.jar:1.17.1]
​	at org.apache.flink.yarn.cli.FlinkYarnSessionCli.lambda$main$4(FlinkYarnSessionCli.java:869) ~[flink-dist-1.17.1.jar:1.17.1]
​	at java.security.AccessController.doPrivileged(Native Method) ~[?:1.8.0_231]
​	at javax.security.auth.Subject.doAs(Subject.java:422) ~[?:1.8.0_231]
​	at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1878) ~[hadoop-common-3.3.4.jar:?]
​	at org.apache.flink.runtime.security.contexts.HadoopSecurityContext.runSecured(HadoopSecurityContext.java:41) ~[flink-dist-1.17.1.jar:1.17.1]
​	at org.apache.flink.yarn.cli.FlinkYarnSessionCli.main(FlinkYarnSessionCli.java:869) [flink-dist-1.17.1.jar:1.17.1]
Caused by: org.apache.flink.configuration.IllegalConfigurationException: The number of requested virtual cores for application master 1 exceeds the maximum number of virtual cores 0 available in the Yarn Cluster.
​	at org.apache.flink.yarn.YarnClusterDescriptor.isReadyForDeployment(YarnClusterDescriptor.java:338) ~[flink-dist-1.17.1.jar:1.17.1]
​	at org.apache.flink.yarn.YarnClusterDescriptor.deployInternal(YarnClusterDescriptor.java:567) ~[flink-dist-1.17.1.jar:1.17.1]
​	at org.apache.flink.yarn.YarnClusterDescriptor.deploySessionCluster(YarnClusterDescriptor.java:430) ~[flink-dist-1.17.1.jar:1.17.1]... 7 more
------------------------------------------------------------The program finished with the following exception:
org.apache.flink.client.deployment.ClusterDeploymentException: Couldn't deploy Yarn session cluster
​	at org.apache.flink.yarn.YarnClusterDescriptor.deploySessionCluster(YarnClusterDescriptor.java:437)
​	at org.apache.flink.yarn.cli.FlinkYarnSessionCli.run(FlinkYarnSessionCli.java:608)
​	at org.apache.flink.yarn.cli.FlinkYarnSessionCli.lambda$main$4(FlinkYarnSessionCli.java:869)
​	at java.security.AccessController.doPrivileged(Native Method)
​	at javax.security.auth.Subject.doAs(Subject.java:422)
​	at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1878)
​	at org.apache.flink.runtime.security.contexts.HadoopSecurityContext.runSecured(HadoopSecurityContext.java:41)
​	at org.apache.flink.yarn.cli.FlinkYarnSessionCli.main(FlinkYarnSessionCli.java:869)
Caused by: org.apache.flink.configuration.IllegalConfigurationException: The number of requested virtual cores for application master 1 exceeds the maximum number of virtual cores 0 available in the Yarn Cluster.
​	at org.apache.flink.yarn.YarnClusterDescriptor.isReadyForDeployment(YarnClusterDescriptor.java:338)
​	at org.apache.flink.yarn.YarnClusterDescriptor.deployInternal(YarnClusterDescriptor.java:567)
​	at org.apache.flink.yarn.YarnClusterDescriptor.deploySessionCluster(YarnClusterDescriptor.java:430)... 7 more

原因

在yarn-site.xml文件中配置了所有可能相关的参数,重启yarn服务,执行yarn-session.sh错误依旧:

	<property><name>yarn.containers.vcores</name><value>8</value></property><property><name>yarn.nodemanager.resource.cpu-vcores</name><value>4</value></property><property><name>yarn.scheduler.maximum-allocation-vcores</name><value>2</value></property>

在看yarn cluster上的信息时突然发现Unhealth Nodes,然后查看了具体信息:
Unhealth-report
具体原因就是磁盘使用空间占比超过了90了(yarn默认为90),则认为不健康,不健康相当于这个节点不可用,由于本地只有一个节点,所以相当于整个集群不可用,于是就出现了开头的错误信息。
Unhealth-report的具体信息

解决

根据Health-report的提示,在yarn-site.xml中添加了如下参数:

	<property><name>yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage</name><value>99</value></property>

重启yarn,再查看节点状态为正常了,再执行flink的yarn-session.sh就可以正常启动了。
问题修复后的Yarn Cluster Node状态
Flink yarn-session.sh启动成功

总结

在Flink中使用yarn-session时,如果出现yarn相关的错误,可以到Yarn的WebUI上查看可能的Unhealth-report和具体的错误信息,再根据具体信息调整配置后不断调试,直到解决问题。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://xiahunao.cn/news/351851.html

如若内容造成侵权/违法违规/事实不符,请联系瞎胡闹网进行投诉反馈,一经查实,立即删除!

相关文章

基于Python的栅格数据地理加权回归

本文结合实例详细讲解了如何使用Python对栅格数据进行地理加权回归&#xff08;GWR&#xff09;和多尺度地理加权回归分析&#xff08;MGWR&#xff09;&#xff0c;关注公众号GeodataAnalysis&#xff0c;回复20230605获取示例数据和代码&#xff0c;包含整体的写作思路&#…

org.apache.commons.io.monitor+logback.xml+vue实时显示当前日志信息

使用记录&#xff1a; 第一&#xff1a; 刷新页面导致session问题 可以在java的session中记录&#xff0c;如果是同一个客户重新链接的话&#xff0c;直接返回java的session的数据ssemiter给前端&#xff0c;前端自动接着获取日志。 ssemiter&#xff1a;详情自行百度ssemit…

【Spring Boot学习】Spring Boot的创建,第一个Spring Boot页面.

前言: 大家好,我是良辰丫,前面几篇文章,我们系统的学习了Spring框架,今天开始,我们就要学习更高级的SpringBoot框架了,不要着急哦,我们一起畅游SpringBoot框架的世界.&#x1f48c;&#x1f48c;&#x1f48c; &#x1f9d1;个人主页&#xff1a;良辰针不戳 &#x1f4d6;所属专…

EasyRecovery14免费并且超好用的数据恢复工具

相信不少小伙伴都遇到过误删文件或者文件丢失的时候&#xff0c;尤其是对于工作或者学习所需的重要文件来说&#xff0c;更让人不能接受。这个时候大家也可以通过数据恢复软件来进行找回&#xff0c;但是现在很多这种软件都需要付费才能够满足你的需求。那么有什么免费的恢复工…

EasyRecovery2020数据恢复软件激活码序列号秘钥下载及使用恢复教程

我们平时肯定都遇到过不小心把重要文件删除的情况&#xff0c;其实这些数据还是有很大几率可以恢复的&#xff0c;而且恢复起来并不难。 今天小编给大家推荐一个比较老牌的数据恢复软件EasyRecovery。 如回收站作为一个临时存放被删除文件的居所&#xff0c;有着预防用户误删…

EasyRecovery14最新个人版数据恢复工具

EasyRecovery14Mac最新版是一款功能非常强大的文件数据恢复工具软件&#xff0c;EasyRecovery14Mac最新版有着极为强大的数据恢复功能&#xff0c;可以帮助用户将各种丢失或者误删除的文件数据完美恢复&#xff0c;不过需要健康度高的文件才能恢复&#xff0c;感兴趣的用户快来…

easyrecovery数据恢复软件V15最新版本介绍

easyrecovery恢复文件介绍 easyrecovery是一款功能非常强大的数据恢复软件&#xff0c;不仅能够恢复手机等终端被删除的文件&#xff0c;还可以恢复从硬盘上删除的文件&#xff0c;而且操作非常简单&#xff0c;下面就跟着小编一起来看一下吧。电脑使用时间很长之后大家应该都…

数据恢复Ontrack EasyRecovery 15中文免费版2023最新

Ontrack EasyRecovery Crack Professional是一个全面的备份和恢复实用程序&#xff0c;可以从多个数据丢失事件中恢复文件&#xff0c;例如常见的意外删除、更严重的&#xff08;有时是病毒引起的&#xff09;分区或驱动器格式化&#xff0c;甚至硬盘严重损坏后的数据丢失。免费…

Ontrack易恢复最新版EasyRecovery数据恢复软件功能

Ontrack EasyRecovery易恢复是领先的数据恢复软件。可以解决任何数据丢失问题。 版本区别对比 EasyRecovery_Home个人版: 家用数据恢复&#xff1a;常规恢复各种文档&#xff0c;音乐&#xff0c; 照片&#xff0c;视频等数据。 EasyRecovery_Professional专业版: 高级数据恢…

EasyRecovery数据恢复软件V15专业版使用操作流程

EasyRecovery使用心得&#xff1a;一款专业的数据恢复软件&#xff0c;可以根据你想要恢复的文件类型恢复数据内容&#xff0c;需要有一定电脑基础的用户才能够顺利使用&#xff0c;想要使用所有功能需要下载完整版才能使用。 下面是EasyRecovery的操作流程&#xff1a; 1、首…

easyrecovery工具2023最新版一键恢复丢失数据免费下载

通常&#xff0c;许多人会将工作或生活中的数据存储在我们的计算机上。很多时候&#xff0c;由于我们的误操作或其他一些问题&#xff0c;很容易错误地删除一些文件和数据。特别是&#xff0c;一些计算机故障总是会导致数据丢失&#xff0c;这是非常麻烦的。当需要重新安装系统…

易恢复Ontrack EasyRecovery15绿色版

电脑上的数据不小心删除了或者是电脑坏掉数据遗失想要找回就得使用数据恢复工具&#xff0c;易恢复Ontrack EasyRecovery15绿色版下载后打开即用&#xff0c;轻松操作&#xff0c;快速恢复电脑上的各项数据。 我们用的最多的就是这个数据恢复&#xff0c;其他的功能有兴趣的朋友…

EasyRecovery2022数据恢复绿色版

EasyRecovery易恢复是一款专业级的数据恢复软件 &#xff0c;算法精湛、功能强大&#xff0c;用户群体广泛&#xff1b;支持各种情况下的文件恢复、分区恢复&#xff0c;恢复效果好&#xff1b;文件预览、扇区编辑、加密分区恢复、针对普通用户&#xff0c;EasyRecovery易恢复设…

最新版EasyRecovery数据恢复软件使用测评介绍

我们在逐渐适应信息电子化的同时&#xff0c;也有一些潜在的麻烦接踵而来&#xff0c;其中较为常见的就是文件和数据的保存问题。显然&#xff0c;设备的存储空间是有限的&#xff0c;这就不可避免地会出现数据被删除、覆盖或丢失的现象&#xff0c;如果丢失的是重要数据&#…

EasyRecovery免费激活软件秘钥下载恢复教程及注意事项

EasyRecovery是一款操作安全、价格便宜、用户自主操作的数据恢复方案&#xff0c;它支持从各种各样的存储介质恢复删除或者丢失的文件&#xff0c;其支持的媒体介质包括&#xff1a;硬盘驱动器、光驱、闪存、硬盘、光盘、U盘/移动硬盘、数码相机、手机以及其它多媒体移动设备。…

EasyRecovery软件最新版安装包V15版本数据恢复软件

哎&#xff0c;谁还没有手残过&#xff0c;这不&#xff0c;刚刚一不小心就把一个重要文件误删了。着急忙慌&#xff0c;赶紧看看有没有办法恢复。经过一番折腾&#xff0c;借助EasyRecovery数据恢复软件&#xff0c;终于把误删的文件找回了。 EasyRecovery 是一款操作安全、价…

EasyRecovery易恢复15免费数据恢复软件功能介绍

数据恢复软件EasyRecovery是一款优秀的数据恢复工具&#xff0c;可以帮助我们找回因各种原因丢失的数据。如果您正在被数据丢失问题所烦恼。 EasyRecovery数据恢复软件,2022新款数据恢复软件,支持文件,照片视频等格式预览.EasyRecovery,数据丢失需尽快恢复,恢复效果好! 关于…

EasyRecovery最新中文Win/Mac全版本下载安装激活数据恢复软件

EasyRecovery 是一款操作安全、用户可自主操作的数据恢复方案&#xff0c;它支持从各种各样的存储介质恢复删除或者丢失的文件&#xff0c;其支持的媒体介质包括&#xff1a;硬盘驱动器、光驱、闪存、硬盘、光盘、U盘/移动硬盘、数码相机、手机以及其它多媒体移动设备。能恢复包…

EasyRecovery注册码哪里有?

激活码是激活软件&#xff0c;成功恢复数据的前提&#xff0c;否则软件下载好了以后&#xff0c;没有激活码&#xff0c;也只能试用一段时间&#xff0c;最后还是不能使用。作为专业的数据恢复软件&#xff0c;如果没有EasyRecovery激活码&#xff0c;也只能够扫描出文件&#…

EasyRecovery免费版一键数据恢复还原软件

EasyRecovery15是一款功能全面、易上手操作的批量数据恢复软件&#xff0c;通过这款软件你可以恢复你的电脑中不慎丢失的各类文件数据。软件支持恢复的文件包括图片、office文档、文件夹、邮件、视频、音频等内容&#xff0c;大家可以尝试下&#xff0c;免费版的最多支持2G以内…