0629抽取柳州数据实录

1.topic改为liuzhouPLC2.写入没成功,发现bg01的datanode没有启动。重启hdfs集群。[bg@BG01 sbin]$ jps178592 RunJar178311 RunJar50727 NodeManager112297 Worker50606 -- process information unavailable99153 Master38196 NodeManager...
分类: 其他 发布时间: 07-11 22:54 阅读次数: 0

senddata2kafka

package com.octv.collect.netty.handler;import org.slf4j.Logger;import org.slf4j.LoggerFactory;import org.springframework.beans.factory.annotation.Autowired;import org.springframework.dao.DuplicateKeyE...
分类: 其他 发布时间: 07-11 22:54 阅读次数: 0

配置iptables只允许访问服务器的固定端口

#Generatedbyiptables-savev1.4.7onWedJul1122:25:282018*filter:INPUTACCEPT[59:2968]:FORWARDACCEPT[0:0]:OUTPUTACCEPT[1146:102429]-AINPUT-mstate--stateRELATED,ESTABLISHED-jACCEPT-AINPUT-ptcp-mmultiport--d
分类: 企业开发 发布时间: 07-11 22:53 阅读次数: 0

利用Amoeba实现MySQL主从复制和读写分离

在实际生产环境中,如果对数据库的读和写都在同一个数据库服务器中操作,无论是在安全性、高可用性,还是高并发等各个方面都是完全不能满足实际需求的,因此,一般来说都是通过主从复制(Master-Slave)的方式来同步数据,再通过读写分离来提升数据库的并发负载能力这样的方案来进行部署和实施。
分类: 数据库 发布时间: 07-11 22:53 阅读次数: 0

数字多道脉冲幅度分析器/APG7400A_e

APG7400是一款4通道便携式的数字多道脉冲幅度分析器,每个通道都使用高速逐次逼近型ADC时间,USB接口,小巧,方便携带。能支持Spectrum和List模式。●通道数:4通道●死时间:1.5μs●数据通过率:大于50kcps●道数(可调):16k,8k,4k,2k,1k,512ch●模式:Spectrum,List●积分非线性:±0.025%(typ)●微分非线性±1%(typ)●供电:US
分类: 企业开发 发布时间: 07-11 22:53 阅读次数: 0

Put queue for MemoryTransaction of capacity 2000 full

2018-07-02 09:28:08,140 (PollableSourceRunner-KafkaSource-r1) [ERROR - org.apache.flume.source.kafka.KafkaSource.doProcess(KafkaSource.java:317)] KafkaSource EXCEPTION, {}org.apache.flume.ChannelExcep...
分类: 其他 发布时间: 07-11 22:53 阅读次数: 0

flume到hdfs的写入明显滞后 9点了才写3点的数据

org.apache.flume.sink.hdfs.HDFSEventSink$1.run(HDFSEventSink.java:382)] Writer callback called发现个问题,hdfs的写入明显滞后:2018-07-03 09:00:00,218 (hdfs-k1-roll-timer-0) [INFO - org.apache.flume.sink.hdfs.Bucket...
分类: 其他 发布时间: 07-11 22:53 阅读次数: 0

算法实现之----聚类KMeans

样本数据为:程序为:'''import numpy as npx1=np.array([1, 2, 3, 1, 5, 6, 5, 5, 6, 7, 8, 9, 9])x2=np.array([1, 3, 2, 2, 8, 6, 7, 6, 7, 1, 2, 1, 3])x=np.array(list(zip(x1,x2))).reshape(len(x1), 2)print(x)'''import...
分类: 其他 发布时间: 07-11 22:53 阅读次数: 0

概念--数据挖掘之聚类、分类、回归

1.分类(classification)       有监督学习的两大应用之一,产生离散的结果。例如向模型输入人的各种数据的训练样本,产生“输入一个人的数据,判断是否患有癌症”的结果,结果必定是离散的,只有“是”或“否”。  分类方法是一种对离散型随机变量建模或预测的监督学习算法。使用案例包括邮件过滤、金融欺诈和预测雇员异动等输出为类别的任务。  许多回归算法都有与其相对应的分类算法,分类算法通常...
分类: 其他 发布时间: 07-11 22:52 阅读次数: 0

多线程快速入门

分类: 其他 发布时间: 07-11 22:52 阅读次数: 0

多线程线程安全

1.什么是线程安全问题?当多个线程共享同一个全局变量,做写的时候可能会受到其他线程的干扰,导致数据由问题,这种现象叫做线程安全问题。但是做读的操作是不会发生数据冲突问题。2.多个线程共享同一个局部变量会发生线程安全问题?不会。3.线程安全问题有哪些解决方法?使用多线程之间同步synchronized或者使用锁(lock)lock--jdk.5并发包--手动synchronized--自动一.什么地...
分类: 其他 发布时间: 07-11 22:52 阅读次数: 0

多线程之间通讯

1.什么是多线程之间通讯?多个线程对同一个资源(共享资源),每个线程对共享资源的动作不同,操作不同。多线程通讯的生产者与消费者,--消息中间件mq。可见性不具备原子性,线程是不安全的。可见性不具备原子性,线程不安全。解决办法:生产者线程生产一个,消费者线程立马消费。生产者没有任何生产,消费者不能读。消费者,没有消费完,生产者不能继续生产。wait的作用:让当前程序从运行状态变为休眠状态。notif...
分类: 其他 发布时间: 07-11 22:51 阅读次数: 0

java并发包&并发队列

1.什么是线程安全问题?保证在多个线程之间共享同一个全局变量或者静态变量,保证数据的一致性,和原子性。2.线程同步有哪些方式?synchronized,lock3.线程同步提高了效率?降低程序效率,阻塞,抢锁资源,效率不高。Java并发包原子类,Lock,并发包。并发类。4.你们接触过哪些线程安全的类?Vector与Array List区别?实现原理都是通过数组实现-查询速度块,增加,修改,删除速...
分类: 其他 发布时间: 07-11 22:51 阅读次数: 0

线程池原理剖析&锁的深度化

什么是线程池?产生原因:经常创建,启动,销毁一个线程都是非常耗费时间。好处:1.降低资源消耗。重复利用已经创建的线程2.提高响应速度。不需要等待线程创建(CPU调度)就能立即执行。3.提高线程的可管理性。统一分配,调优,监控。Java中使用线程 核心走ThreadPoolExecutor。线程池使用方式?Executor类封装好了四种线程池。1.newCachedThreadPool创建一个可缓存...
分类: 其他 发布时间: 07-11 22:51 阅读次数: 0

数据交换格式与SpringIOC底层实现

一:什么是数据交换格式:json,xml二:各自应用场景?json:是一种轻量级的数据交换格式。http+restfulxml:是一种重量级的数据交换格式(标记语言)面向服务架构(soa)或者为服务架构--http+json格式三:json与xml区别?1.json占宽带小,xml占宽带大。2.微服务http+json格式3.配置文件,webService(http+soap协议)http+xml...
分类: 其他 发布时间: 07-11 22:51 阅读次数: 0

自定义注解与设计模式

实现自定义注解 元注解的作用就是负责注解其他注解。Java5.0定义了4个标准的meta-annotation类型,它们被用来提供对其它 annotation类型作说明。Java5.0定义的元注解: @Target @Target说明了Annotation所修饰的对象范围:Annotation可被用于 packages、types(类、接口、枚举、Annotation类型)、类型成员(方法、构造方法、成员变量、枚举值)、方法参数和本地变量(如循环变量、catch参数)。在Annotation类型的声明中使用
分类: 其他 发布时间: 07-11 22:50 阅读次数: 0

hibernate 总结2

hibernate 2(持久化态对象+维护+级联) (1)hibernate中的持久化实体书写要求 1. 实体类不要使用final修改(因为hibernate会根据实体产生代理对象) jdk和cglib产生代理对象 2. 实体类中有唯一的OID来与表中主键对应(hibernate中缓存要使用) 3. 尽量使用包装类型而不是普通类型(一些基本类型属性插入表中都会将默认值存入,而包装类型默认值是...
分类: 其他 发布时间: 07-11 22:49 阅读次数: 0

ssh框架心得

SSH框架下的常用代码 各位都知道,框架是java编程语言的特性封装的具体体现.但是有了框架之后我们还是会有很多重复的代码需要我们书写,这时候为了更精简的开发,我把用过的几个小工具分享一下. (本文是基于ssh框架的几个常用类,及其使用的注意事项) BaseDao public class BaseDaoImpl<T> extends HibernateDaoSuppo...
分类: 其他 发布时间: 07-11 22:49 阅读次数: 0

Confluence 6 推荐的更新通知设置和禁用

你可以设置默认的发送选项(发送 / 不发送)和默认的发送时间(每天或每周)。 如何配置推荐更新电子邮件通知: 在屏幕的右上角单击 控制台按钮 ,然后选择 General Configuration 链接。 在左侧面板中单击 推荐更新电子邮件(Recommended Updates Email )。 为整个站点禁用推荐更新通知 你同时也可以为你整个站点禁用 推荐更新( recommended updates)。你需要禁用 'Confluence daily summary email' 查看。请
分类: 其他 发布时间: 07-11 22:49 阅读次数: 0

cdh出现重复主机

遇到一个奇怪的情况: 解决方案:先停止bizdata02机器的agent,然后删除元数据表中记录的HOSTS数据。由于我们集群使用mysql存储元数据,给出以下mysql操作示例。 步骤如下: 1. 停止agent sh /opt/cm-5.13.1/etc/init.d/cloudera-scm-agent stop 2. 找到重复HOST_ID,ID越大,说明是后来CDH加入的。 select * from `HOSTS`; 3. 由于删除HOSTS表有依赖,设置好@id之后执行级联删除
分类: 其他 发布时间: 07-11 22:49 阅读次数: 0