平台搭建---Kafka使用---Kafka监控工具KafkaOffsetMonitor配置及使用

来源   KafkaOffsetMonitor是一个可以用于监控Kafka的Topic及Consumer消费状况的工具,其配置和使用特别的方便。源项目Github地址为:https://github.com/quantifind/KafkaOffsetMonitor。   最简单的使用方式是从Github上下载一个最新的KafkaOffsetMonitor-assembly-0.2.1.jar
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

平台搭建---Kafka使用---Spark Streaming 管理 Kafka Offsets 的方式探讨

来源:2018.01.19 19:48* Spark Streaming 应用从Kafka中获取信息是一种常见的场景。从Kafka中读取持续不断的数据将有很多优势,例如性能好、速度快。然而,用户必须管理Kafka Offsets保证Spark Streaming应用挂掉之后仍然能够正确地读取数据。在这一篇文章,我们将来讨论如何管理offset。 Offset管理概述 Spark Stre...
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

Mybtais 条件in语句问题

Mybtais in语句应该使用自带<forEach>标签,自作聪明,特此记录 错误示例 <delete id="deleteMovies" parameterType="java.lang.String" > DELETE FROM movie WHERE id in (#{ids}) </d...
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

平台搭建---Kafka使用---Kafka客户端是如何找到 leader 分区的

来源:2017-07-28 21:07:05 在正常情况下,Kafka中的每个Topic都会有很多个分区,每个分区又会存在多个副本。在这些副本中,存在一个leader分区,而剩下的分区叫做 follower,所有对分区的读写操作都是对leader分区进行的。所以当我们向Kafka写消息或者从Kafka读取消息的时候,必须先找到对应分区的Leader及其所在的Broker地址,这样才可以进行后续的...
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

Windows安装 Mysql8.0.11压缩版

1、下载mysql 8.0压缩版 https://dev.mysql.com/downloads/mysql/   2、解压到你本机目录(我的是F:\Program Files\mysql-8.0.11-winx64)   3、在解压目录下新建my.ini文件:文件内容 [mysqld] #设置服务器字符集为utf8 character_set_server=utf8 collati...
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

平台搭建---kafka使用---基本使用

主要是记录默认端口 应用名称 识别码 应用类型 协议和端口 描述 pop3邮件 5 普通应用 TCP:110 pop3邮件 ftp-data 20 ftp数据端口 ftp 21 文件传输协议(FTP)端口;有时也被文件服务协议(FSP)使用 ssh 22 安全S...
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

项目实例---用机器学习构建模型,进行信用卡反欺诈预测

来源: 用机器学习构建模型,进行信用卡反欺诈预测 反欺诈中所用到的机器学习模型有哪些? Logistic Regression SVMs Decision trees
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

struts2注解返回json串实现方式(序列化对象属性输出)

1.想要struts2返回json串,必须引入struts2-json-plugin-2.3.4.1.jar 2.继承json-default包   @Component @Scope("prototype") @ParentPackage("json-default") @Namespace("/tax/test") @Results({ @Result(name="jsonLis...
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

MyBatis映射错误,No qualifying bean of type 'xx.xx.UserDao' available

在学习myBatis持久层框架时,通常遇到一些挫折,下面我遇到一个错让我头疼了两周,但最后的解决方案却十分简单,下面就让我说说Caused by: org.springframework.beans.factory.NoSuchBeanDefinitionException: No qualifying bean of type 'cn.lin.test.dao.UserDao' available
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

Linux配置redis开机启动(CentOS 7)

本次配置linux版本是CentOS 7   首先将  redis-3.2.3/utils目录下的 redis_init_script 脚本拷贝到  /etc/init.d 下 修改名字为  redis [root@localhost redis]# cp redis_init_script /etc/init.d/redis 编辑一下redis文件,添加一段注释在文件头部位置 #!/b...
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

redis 外部访问配置(bind正确配置)

redis 外部访问配置(bind正确配置) 部署完redis 后,发现外部无法访问到redis。可能你已经跟我一样看了晚上很多帖子,大部分都大同小异,都是设置redis配置里的bind ,把这个设置项改成你服务器的真正ip地址,其实是错误的。 我按照网上的说服,设置了,但是会发现redis无法启动,执行了启动命令之后没反应,然后切回了127.0.0.1 之后正常启动,翻看了很多帖子都是这样,...
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

redis集群 共享session解决

java web项目,不依赖于web容器,实现负载均衡,必须解决session共享问题。网上解决方法有很多,但是我觉得使用 spring-session +redis是最方面快捷的,不用重复造轮子,且不用修改项目的代码,并且使项目使用的session与web容器解耦, 完全由容器的httpsession转为使用spring提供的session. 具体怎么使用,请访问spring的官方网站。 ...
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

安全测评总结

1.跨站点请求伪造解决方式:在过滤器检测浏览器过来请求的Referer,是否存在改变,如果改变则跳转错误页面//跨站点请求伪造String referer = "http://192.168.0.66:8080/szcitymgt"; if(referer != null){ if(!referer.trim().startsWith(myReferer)){//myReferer是系统的(域名...
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

java实现单用户登录原理

为了系统的安全性,很多网站都实现单用户登录,下面我们来探讨一下它的实现原理: 第一步: public class SessionListener implements HttpSessionListener{ public static Map<Long, String> LOGIN_USER_MAP = new HashMap<Long, String>();//...
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

SQL优化方案

为什么要优化:      随着实际项目的启动,数据库经过一段时间的运行,最初的数据库设置,会与实际数据库运行性能会有一些差异,这时我们         就需要做一个优化调整。 数据库优化这个课题较大,可分为四大类:        》主机性能        》内存使用性能        》网络传输性能        》SQL语句执行性能【软件工程师】 下面列出一些数据库SQL优化方案: (01)选择...
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

关于maven的一些不解

今天写demo的时候在resource下写了半天servlet就是404,是自己对maven根本就不了解,ha src/main/java 是你的代码; src/main/resources 是你的资源文件; src/test/java 是你的测试代码; src/test/resources 是你的测试资源文件;...
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

cxf的一个小问题

做客户端的时候{}  {}  什么的错,注意客户端的service包的路径需要喝服务端一致。
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

关于ssh命令和scp命令需要指定端口时候的一些不同

scp -P 333 [email protected].**:~/** ssh [email protected].** -p333 scp的p是大写 ssh的p是小写
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

HashMap底层实现(1)

众所周知,HashMap是一个用于存储Key-Value键值对的集合,每一个键值对也叫做Entry。这些个键值对(Entry)分散存储在一个数组当中,这个数组就是HashMap的主干。HashMap数组每一个元素的初始值都是Null。对于HashMap,我们最常使用的是两个方法:Get 和 Put。1.Put方法的原理调用Put方法的时候发生了什么呢?比如调用 hashMap.put("apple...
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0

关于javaagent和sendproxy目前遇到的小问题

1   sendproxy 和javaagent的key是对应的,不能用qa的sendproxy和线上的javaagent来匹配。 2  sendproxy进程在远程的虚拟机中只能存在一个。
分类: 其他 发布时间: 07-17 23:29 阅读次数: 0