分布式
-
【大数据存储与处理】实验一 HBase 的基本操作
一、实验目的: 1. 掌握 Hbase 创建数据库表及删除数据库表 2. 掌握 Hbase 对数据库表数据的增、删、改、查。 二、实验内容: 1、题目 0:进入 hbase sh…
-
Hadoop(02) Hadoop-3.3.6 集群的配置教程
当使用Hadoop的分布式模式进行部署和运行时,通常使用分布式文件系统HDFS进行存储。在这种情况下,HDFS的名称节点(NameNode)和数据节点(DataNode)位于不同的…
-
大数据开发之Spark(完整版)
第 1 章:Spark概述 1.1 什么是spark 回顾:hadoop主要解决,海量数据的存储和海量数据的分析计算。 spark是一种基于内存的快速、通用、可扩展的大数据分析计算…
-
VMware执行命令hadoop-daemon.sh start journalnode报错hadoop-daemon.sh: 未找到命令…
首先启动hadoop1节点的Zookeeper服务 然后启动hadoop1节点的Journalnode执行命令hadoop-daemon.sh start journalnode报…
-
Java分布式锁理论(redis、zookeeper) 详解
目录 一、分布式锁有哪些应用场景? 二、分布式锁的实现方案 三、zookeeper实现分布式锁 一直不释放锁怎么办? 如何避免分布式锁羊群效应问题? 四、redis实现分布式锁 一…
-
在虚拟机上从0开始安装 hadoop 3.1.3 集群记录
hadoop 3.1.3 安装记录 linux 安装 VMware 新建虚拟机向导 VMware的网络配置 centos 7.5 安装 设置服务器 使用windTerm 连接服务器…
-
【解决】Kafka Exception thrown when sending a message with key=‘null‘ 异常
问题原因: 如下图,kafka 中配置的是监听域名的方式,但程序里使用的是 ip:port 的连接方式。 解决办法: kafka 中配置的是域名的方式,程序里也相应配置成 域名…
-
Spark 大数据实战:基于 RDD 的大数据处理分析
之前笔者参加了公司内部举办的一个 Big Data Workshop,接触了一些 Spark 的皮毛,后来在工作中陆陆续续又学习了一些 Spark 的实战知识。 本文笔者从小白的视…
-
kafka查看消息两种方式(命令行和软件)+另附发送消息方式
1、命令行方式 ①找到kafka安装文件夹 ②执行命令 #指定offset为指定时间作为消息起始位置 kafka-consumer-groups.sh \ –bootstrap-…
-
启动Dubbo项目注册Zookeeper时提示zookeeper not connected异常原理解析
原创/朱季谦 遇到一个很诡异的问题,我在启动多个配置相同zookeeper的Dubbo项目时,其他项目都是正常启动,唯独有一个项目在启动过程中,Dubbo注册zookeeper协议…
-
Hadoop原理介绍
目录 HDFS 分布式存储介绍 组成 架构图 分块存储 NameNode管理元数据 SecondaryNameNode辅助管理元数据 三大机制 读写数据流程 读数据流程 写数据流程…
-
Spark避坑系列一(基础知识)
大家想了解更多大数据相关内容请移驾我的课堂: 大数据相关课程 剖析及实践企业级大数据 数据架构规划设计 大厂架构师知识梳理:剖析及实践数据建模 剖析及实践数据资产运营平台 Spar…
-
Rabbitmq消息积压问题如何解决以及如何进行限流
一、增加处理能力 优化系统架构、增加服务器资源、采用负载均衡等手段,以提高系统的处理能力和并发处理能力。通过增加服务器数量或者优化代码,确保系统能够及时处理所有的消息。 二、异步处…
-
window系统修改rabbitmq 默认端口
安装完rabbitmq之后,默认的client端口是5672, 控制台访问端口是15672,rabbitmq管理工具启动之后在浏览器中输入地址: http://localho…
-
实战,实现幂等的8种方案!
1. 什么是幂等? 幂等是一个数学与计算机科学概念。 在数学中,幂等用函数表达式就是:f(x) = f(f(x))。比如求绝对值的函数,就是幂等的,abs(x) = abs(abs…
