平台搭建---Kafka使用---Kafka监控工具KafkaOffsetMonitor配置及使用
来源
KafkaOffsetMonitor是一个可以用于监控Kafka的Topic及Consumer消费状况的工具,其配置和使用特别的方便。源项目Github地址为:https://github.com/quantifind/KafkaOffsetMonitor。
最简单的使用方式是从Github上下载一个最新的KafkaOffsetMonitor-assembly-0.2.1.jar
平台搭建---Kafka使用---Spark Streaming 管理 Kafka Offsets 的方式探讨
来源:2018.01.19 19:48*
Spark Streaming 应用从Kafka中获取信息是一种常见的场景。从Kafka中读取持续不断的数据将有很多优势,例如性能好、速度快。然而,用户必须管理Kafka Offsets保证Spark Streaming应用挂掉之后仍然能够正确地读取数据。在这一篇文章,我们将来讨论如何管理offset。
Offset管理概述
Spark Stre...
Mybtais 条件in语句问题
Mybtais in语句应该使用自带<forEach>标签,自作聪明,特此记录
错误示例
<delete id="deleteMovies" parameterType="java.lang.String" >
DELETE FROM
movie
WHERE
id in (#{ids})
</d...
平台搭建---Kafka使用---Kafka客户端是如何找到 leader 分区的
来源:2017-07-28 21:07:05
在正常情况下,Kafka中的每个Topic都会有很多个分区,每个分区又会存在多个副本。在这些副本中,存在一个leader分区,而剩下的分区叫做 follower,所有对分区的读写操作都是对leader分区进行的。所以当我们向Kafka写消息或者从Kafka读取消息的时候,必须先找到对应分区的Leader及其所在的Broker地址,这样才可以进行后续的...
Windows安装 Mysql8.0.11压缩版
1、下载mysql 8.0压缩版 https://dev.mysql.com/downloads/mysql/
2、解压到你本机目录(我的是F:\Program Files\mysql-8.0.11-winx64)
3、在解压目录下新建my.ini文件:文件内容
[mysqld]
#设置服务器字符集为utf8
character_set_server=utf8
collati...
平台搭建---kafka使用---基本使用
主要是记录默认端口
应用名称
识别码
应用类型
协议和端口
描述
pop3邮件
5
普通应用
TCP:110
pop3邮件
ftp-data
20
ftp数据端口
ftp
21
文件传输协议(FTP)端口;有时也被文件服务协议(FSP)使用
ssh
22
安全S...
项目实例---用机器学习构建模型,进行信用卡反欺诈预测
来源:
用机器学习构建模型,进行信用卡反欺诈预测
反欺诈中所用到的机器学习模型有哪些?
Logistic Regression
SVMs
Decision trees
struts2注解返回json串实现方式(序列化对象属性输出)
1.想要struts2返回json串,必须引入struts2-json-plugin-2.3.4.1.jar
2.继承json-default包
@Component
@Scope("prototype")
@ParentPackage("json-default")
@Namespace("/tax/test")
@Results({
@Result(name="jsonLis...
MyBatis映射错误,No qualifying bean of type 'xx.xx.UserDao' available
在学习myBatis持久层框架时,通常遇到一些挫折,下面我遇到一个错让我头疼了两周,但最后的解决方案却十分简单,下面就让我说说Caused by: org.springframework.beans.factory.NoSuchBeanDefinitionException: No qualifying bean of type 'cn.lin.test.dao.UserDao' available
Linux配置redis开机启动(CentOS 7)
本次配置linux版本是CentOS 7
首先将 redis-3.2.3/utils目录下的 redis_init_script 脚本拷贝到 /etc/init.d 下 修改名字为 redis
[root@localhost redis]# cp redis_init_script /etc/init.d/redis
编辑一下redis文件,添加一段注释在文件头部位置
#!/b...
redis 外部访问配置(bind正确配置)
redis 外部访问配置(bind正确配置)
部署完redis 后,发现外部无法访问到redis。可能你已经跟我一样看了晚上很多帖子,大部分都大同小异,都是设置redis配置里的bind ,把这个设置项改成你服务器的真正ip地址,其实是错误的。
我按照网上的说服,设置了,但是会发现redis无法启动,执行了启动命令之后没反应,然后切回了127.0.0.1 之后正常启动,翻看了很多帖子都是这样,...
redis集群 共享session解决
java web项目,不依赖于web容器,实现负载均衡,必须解决session共享问题。网上解决方法有很多,但是我觉得使用
spring-session +redis是最方面快捷的,不用重复造轮子,且不用修改项目的代码,并且使项目使用的session与web容器解耦,
完全由容器的httpsession转为使用spring提供的session.
具体怎么使用,请访问spring的官方网站。
...
java实现单用户登录原理
为了系统的安全性,很多网站都实现单用户登录,下面我们来探讨一下它的实现原理:
第一步:
public class SessionListener implements HttpSessionListener{
public static Map<Long, String> LOGIN_USER_MAP = new HashMap<Long, String>();//...
关于maven的一些不解
今天写demo的时候在resource下写了半天servlet就是404,是自己对maven根本就不了解,ha
src/main/java 是你的代码;
src/main/resources 是你的资源文件;
src/test/java 是你的测试代码;
src/test/resources 是你的测试资源文件;...
关于ssh命令和scp命令需要指定端口时候的一些不同
scp -P 333 [email protected].**:~/**
ssh [email protected].** -p333
scp的p是大写 ssh的p是小写
HashMap底层实现(1)
众所周知,HashMap是一个用于存储Key-Value键值对的集合,每一个键值对也叫做Entry。这些个键值对(Entry)分散存储在一个数组当中,这个数组就是HashMap的主干。HashMap数组每一个元素的初始值都是Null。对于HashMap,我们最常使用的是两个方法:Get 和 Put。1.Put方法的原理调用Put方法的时候发生了什么呢?比如调用 hashMap.put("apple...
关于javaagent和sendproxy目前遇到的小问题
1 sendproxy 和javaagent的key是对应的,不能用qa的sendproxy和线上的javaagent来匹配。
2 sendproxy进程在远程的虚拟机中只能存在一个。
今日推荐
周排行