企业级大数据平台构建

一、平台基本功能 1. 数据接入 2. 数据存储和查询,存储模型应包括关系型模型,非关系型模型,文档模型等。 3. 数据计算,包括离线批处理,实时计算,机器学习,多维分析和全文检索。 4. 平台安全与管理,解决用户管理,数据隔离,访问授权,访问控制和集群服务安全等问题。 5. 平台辅助工具,如程序开发套件,任务管理,与调度系统,自助式数据探索分析系统。 二、集群服务器的角色分类 1. 主控节点 定义:不承担具体的数据存储和计算工作,而是负责全局统筹的任务分配,资源调配或是平衡集群负载,角色包括
分类: 其他 发布时间: 09-17 23:12 阅读次数: 0

JAVA开源B2C系统

前言 最近有人想面向境外销售商品,但是又不想依托于亚马逊这些平台,于是找我来帮忙想弄个B2C系统。因为刚开始只是打算试试水,也就不打算投入多少成本了。所以这边就考虑使用开源的B2C系统来直接使用了。 B2C开源系统选择 由于自己的主语言是JAVA,平时工作也都是用的JAVA。考虑到以后需要对系统进行二开、部署维护等。所以一开始就直接查找JAVA 的开源系统了,并且将是JAVA语言开发的作为了第一个必要选项。结果却是证明了自己的愚蠢啊。 在这里需要说明在选择一个开源系统作为线上系统实际部署应用的
分类: 其他 发布时间: 09-17 23:12 阅读次数: 0

selenium抓取淘宝商品

我们知道,javascript动态渲染页面不止ajax这一种,有些网站可能整个都是由javascript渲染后生成的,还有些网站,比如淘宝,它虽然有ajax请求,但其中加入了很多复杂的参数,需要耗费大量时间才能找出规律,这时候,我们就可以用selenium,它可以直接模仿浏览器运行,并且抓取在运行时的源码,不用管ajax那些复杂的数,此次我们使用一种无界面的浏览器PhantomJS,它可以做到不用打开浏览器就可以运行,另外,需要正确安装好Selenium库。 #我们需要用到MongoDB数据库
分类: 其他 发布时间: 09-17 23:12 阅读次数: 0

1×1卷积核理解

1*1的卷积核在NIN、Googlenet中被广泛使用,但其到底有什么作用也是一直困扰的问题,这里总结和归纳下在网上查到的自认为很合理的一些答案,包括1)跨通道的特征整合2)特征通道的升维和降维 3)减少卷积核参数(简化模型) 1 - 引入   在我学习吴恩达老师Deeplearning.ai深度学习课程的时候,老师在第四讲卷积神经网络第二周深度卷积网络:实例探究的2.5节网络中的网络以及1×1卷积对1×1卷积做了较为详细且通俗易懂的解释。现自己做一下记录。 2 - 1×1卷积理解 假设当前输
分类: 其他 发布时间: 09-17 23:12 阅读次数: 0

闭包的讲解与简单实用(重新理解)

//闭包的概念就是函数嵌套函数 内部函数可以调用外部函数的参数和变量 并且变量贮存在内存中 不会被垃圾回收机制销毁 //可以手动销毁 //下面介绍闭包的介绍和简单使用 //简单写法 function outer(){ var num=0; function inner(){ num++; return num; }
分类: 其他 发布时间: 09-17 23:12 阅读次数: 0

Win10安装docker步骤

最近使用docker部署spring boot项目,写篇文章记录下步骤。 1. 确保本机win10系统虚拟化已启动启动,否则需要去BIOS设置(方法可百度) 2. 到docker网站下载DockerToolbox.exe安装工具 安装完成后出现三个图标,红框内为执行docker命令的终端。 2.1 运行Docker Quickstart Terminal 第一次打开该终端,运行很久后,提示类似于这种的错误(网上截图,跟我的实际情况类似)。 上图表示boot2docker.iso版本过低,需要从
分类: 其他 发布时间: 09-17 23:12 阅读次数: 0

QMap的性能,只要超过10个元素,就被QHash彻底拉开差距

QMap vs. QHash: A small benchmark While working on my Qt developer days 2012 presentation (QtCore in depth), I made a benchmark comparing QMap and QHash. I thought it would be nice to share the results in this short blog entry. Under The Hood The Qt
分类: 其他 发布时间: 09-17 23:12 阅读次数: 0

mysql的学习笔记(八)

1.存储引擎(表类型) mysql将数据以不同的技术存储在文件(内存)中,这种技术称为存储引擎。每一种存储引擎使用不同的存储机制,索引技巧,锁定水平,提供广泛且不同的功能。 mysql支持的存储引擎 MyISAM InnoDB Memory CSV Archive 并发控制 当多个连接对记录进行修改时保证数据的一致性和完整性。 锁 共享锁(读锁):在同一时间段内,多个用户可以读取同一个资源,读取过程中数据不会发生任何改变。 排他锁(写锁):在任何时候只能有一个用户写入资源,当进行写
分类: 其他 发布时间: 09-17 23:12 阅读次数: 0

CISP-PTE学习笔记一

非常基础但很实用的技术,巩固一下。 1、google的搜索语法 intitle:parent directory 查找开放了目录遍历的网站 Site:xxx.net(目标网站)filetype:xls 查找目标网站为图方便链接至网上的图标等敏感文件 2、nmap的参数用法 nmap可以利用类似window/linux系统下的ping方式进行扫描,一般来说我们会用这个-sP这个参数去扫描内网的一个ip范围,因为它的速度较快。 如果远程主机有防火墙,IDS和IPS系统,你可以使用-PN参数可以绕
分类: 其他 发布时间: 09-17 23:12 阅读次数: 0

php设计框架

#redis#  redis客户端服务 客户端实例化 操作指令生成和发出 ​​​​ #php新语法#命名空间+文件包含+匿名函数+魔术方法/常量+反射+静态绑定+trait ​​​​ #mysql#  四步:连服 选库 执行sql 关闭 laravel:配置+数据库连接实例+pdo实例化+数据库创建  查询sql:语句准备+执行 + 返回结果 | a
分类: 其他 发布时间: 09-17 23:12 阅读次数: 0

系统论

1.人们按压弹簧或移开手时,弹簧自身结构会使它做出相应的举动,人们往往只注意到了手的动作,而忽视了弹簧的内在结构,这是系统论的一个核心观点。2.只有重新找回人们的直觉,停止相互指责和抱怨,看清系统的结构,认识到系统自身恰恰是问题的根源,找到重塑系统结构的勇气和智慧,这些问题才能真正得以解决。3.系统构成,包括 要素 连接和功能或目标4.通过观察系统行为,来推断出系统的目标5.存量,是指能观察、感知...
分类: 其他 发布时间: 09-17 23:11 阅读次数: 0

研发反思

先动脑想 后动手干积极推动需求达成  代码逻辑清晰  测试角度开发   沟通不带偏见 个人气质养成 ​​​ ​​​​     私心 公心 用心进度 交互 开发 沟通 变通 渐变 ​​​​   1.先想业务 后琢磨代码2.先想问题 后动手写代码 3.先想测试要点 带着测试态度去写代码 ​​​​   1.沟通不带主关偏见2.对业务熟悉 慢慢说清楚 想明白 3.具体实现 清晰明了...
分类: 其他 发布时间: 09-17 23:11 阅读次数: 0

工作心理学(人格)

智力:语言理解能力用词流利数学能力空间能力记忆能力视觉认知能力归纳能力学习能力:集中精力发现感兴趣内容学会取舍学会由意识地记忆反复练习新掌握的内容对内容进行有机地组织掌握相关的背景知识仔细思考学到了什么经常获取反馈人格五因素:神经质 谨慎性 外倾性 宜人 开放理解自己:了解自己长处  减少干扰合理自我欣赏的因素 与能够真正增强你自尊的人相处人格:他们往往具有一个特别着迷的领域他们往往不是顺从的他们...
分类: 其他 发布时间: 09-17 23:11 阅读次数: 0

研发流程

1.项目流程: 需求评审 二次答疑 接口评审 内部外部 开发 联调 自测 cr 提测 测试 上线 观察 通报  2.接口开发 接口定义 接口处理 接口调用 
 3.代码自测 代码规范 架构 层级 实施 接口自测 逻辑 结果 关系 app测试  权限 显示 交互 4.系统联调 梳理逻辑
代码层级 跑通流程  5.提测: diff jira test  6.测试 修复bug 协调产品和测试...
分类: 其他 发布时间: 09-17 23:10 阅读次数: 0

提现和开户操作流程

开户和提现 统称为 待操作 第一步:risk 推送 用户待操作状态 【api/risk/GetP2pRegisterUrl】 1)查询user_order表中对应的订单,获取订单信息 2)查询p2p_bankcard_register表,查看用户是否存在开户/提现数据,        提现操作:如果存在,不许重复插入        开户操作:如果为终态,该订单匹配的资方不可重复插入 3)...
分类: 其他 发布时间: 09-17 23:10 阅读次数: 0

智能机器人领域有什么好书推荐的?

书籍推荐 机器人 人工智能 计算机科学 智能推荐 智能机器人领域有什么好书推荐的?   ​ 查看全部 9 个回答   段晋军 控制理论与控制工程学在读博士 19 人赞同了该回答 ① Springer Handbook oƒ Robotics 2nd Edition,Siciliano Khatib ② Modelling and Identification in Ro...
分类: 其他 发布时间: 09-17 23:09 阅读次数: 0

SLAM 学习与开发经验分享

导语 毫无疑问,SLAM是当前最酷炫的技术.在这里,我给大家分享一些在学习SLAM的过程中的一些资料与方法(不断更新中...) AR开发者社区: 目录 入门 基础 进阶 优秀文章 技术博客 网站与研究组织 书籍与资料 SLAM 方案 优秀案例 入门 视觉SLAM的基础知识-高翔(高翔博士)-...
分类: 其他 发布时间: 09-17 23:09 阅读次数: 0

ROS(12):双足机器人开发调研

本文的原文连接是: http://blog.csdn.net/freewebsys/article/details/49474219 未经博主允许不得转载。  博主地址是:http://blog.csdn.net/freewebsys 1,关于双足机器人 研究这个比较难,之前组装了小车。感觉不过瘾,所以要选择一个比较难的。  对双足机器人兴趣比较大。  首先要讲讲robo-one,一个日本(不...
分类: 其他 发布时间: 09-17 23:08 阅读次数: 0

Linux -特殊权限-set_uid、set_gid、stick_bit

Linux -特殊权限-set_uid、set_gid、stick_bit
分类: 企业开发 发布时间: 09-17 23:08 阅读次数: 0

Linux-软链接、硬链接

Linux-软链接、硬链接
分类: 企业开发 发布时间: 09-17 23:08 阅读次数: 0