Mysql-MHA高可用框架

其他 2021-03-03 13:03:33 阅读次数: 0

目录

一、案例概述

传统的MySQL主从架构存在的问题

  • 单点故障（当主mysql服务器发生故事的时候不会自动转移）

二、案例前置知识点分析

MHA概述——基于一主多从架构

MHA（Master High Availability）目前在 MySQL 高可用方面是一个相对成熟的解决方案，它由日本人 youshimaton 开发，是一套优秀的作为 MySQL 高可用性环境下故障切换和主从提升的高可用软件。在 MySQL 故障切换过程中，MHA 能做到 0~30 秒之内自动完成数据库的故障切换操作，并且在进行故障切换的过程中，MHA 能最大程度上保证数据库的一致性，以达到真正意义上的高可用。MHA 由两部分组成：MHA Manager（管理节点）和 MHA Node（数据节点）。MHA Manager可以独立部署在一台独立的机器上管理多个Master-Slave集群，也可以部署在一台Slave上。当 Master 出现故障是，它可以自动将最新数据的Slave 提升为新的 Master,然后将所有其他的 Slave 重新指向新的 Master。整个故障转移过程对应用程序是完全透明的。

  • 一套优秀的MySQL高可用环境下故障切换和主从复制的软件
  • MySQL故障过程中，MHA能做到0-30秒内自动完成故障切换

MHA的组成

  • MHA Manager（管理节点）
  • MHA Node（数据节点）

MHA的特点

  • 自动故障切换过程中，MHA试图从宕机的主服务器上保存二进制日志，最大程度的保证数据不丢失
  • 使用半同步复制，可以大大降低数据丢失的风险
  • 目前MHA支持一主多从架构，最少三台服务，即一主两从

MHA工作原理：

1.从宕机崩溃的 Master 保存二进制日志事件（binlog event）；
2. 识别含有最新更新的 Slave；
3. 应用差异的中继日志（relay log）到其他 Slave；
4. 应用从 Master 保存的二进制日志事件；
5. 提升一个 Slave 为新的 Master；
6. 使其他的 Slave 连接新的 Master 进行复制；
在这里插入图片描述

适用场景

目前 MHA 主要支持一主多从的架构，要搭建 MHA，要求一个复制集群必须最少有 3 台数据库服务器，一主二从，即一台充当 Master，一台充当备用 Master，另一台充当从库。出于成本考虑，淘宝在此基础上进行了改造，目前淘宝开发的 TMHA 已经支持一主一从。

存在的隐患

在 MHA 自动故障切换的过程中，MHA 试图从宕掉的主服务器上保存二进制日志，最大程度保证数据的不丢失，但这并不总是可行的。例如，如果主服务器硬件故障或无法通过 SSH 访问，MHA 没有办法保存二进制日志，只能进行故障转移而丢失了最新数据。拓：MySQL 服务挂了，但是可以从服务器拷贝二进制。但如果硬件宕机或者 SSH 不能连接，不能获取到最新的 binlog 日志，如果复制出现延迟，会丢失数据。使用 MySQL5.5 的半同步复制，可以大大降低数据丢失的风险。MHA 可以和半同步复制结合起来。如果只有一个 Slave 已经收到了最新的二进制日志，MHA 可以将最新的二进制日志应用于其他所有 Slave 服务器上，保持数据一致性。最新版 0.56 版本，增加了支持 GTID 的功能，建议在 MySQL5.6 及之后版本使用。MySQL5.5建议使用管理节点版本 0.55，数据节点 0.54。

三、案例部署

部署思路

1、MHA架构

  • 数据库安装
  • 一主两从
  • MHA搭建
    2、故障模拟
  • 主库失效
  • 备选主库成为主库
  • 从库2将备选主库指向为主库
    3、故障修复
  • 坏库修复，启动
  • 在修复好的库上建立新主从关系
  • 修改manager配置文件，添加修好的库的记录
  • 重启mha

部署环境

在三台 MySQL 节点上分别安装数据库 MySQL 版本请使用 5.6.36，cmake 版本使用 2.8.6
mysql-master：192.168.10.10 主服务器
mysql-slave1：192.168.10.20 从服务器/备选服务器
mysql-slave2：192.168.10.30 从服务器
vip（漂移地址）：192.168.10.100
mha-manger：192.168.10.40

部署过程

配置主从同步

1.安装编译依赖的环境

[root@master ~]# yum -y install ncurses-devel gcc-c++ perl-Module-Install

2.安装 gmake 编译软件

[root@master ~]# tar zxvf cmake-2.8.6.tar.gz
[root@master ~]# cd cmake-2.8.6
[root@master cmake-2.8.6]# ./configure
[root@master cmake-2.8.6]# gmake && gmake install

3.安装 MySQL 数据库

[root@master ~]# tar -zxvf mysql-5.6.36.tar.gz
[root@master ~]# cd mysql-5.6.36
[root@master mysql-5.6.36]# cmake -DCMAKE_INSTALL_PREFIX=/usr/local/mysql -DDEFAULT_CHARSET=utf8 -DDEFAULT_COLLATION=utf8_general_ci -DWITH_EXTRA_CHARSETS=all -DSYSCONFDIR=/etc
[root@master mysql-5.6.36]# make && make install
[root@master mysql-5.6.36]# cp support-files/my-default.cnf /etc/my.cnf
[root@master mysql-5.6.36]# cp support-files/mysql.server /etc/rc.d/init.d/mysqld
[root@master ~]# chmod +x /etc/rc.d/init.d/mysqld
[root@master ~]# chkconfig --add mysqld
[root@master ~]# echo "PATH=$PATH:/usr/local/mysql/bin" >> /etc/profile
[root@master ~]# source /etc/profile
[root@master ~]# groupadd mysql
[root@master ~]# useradd -M -s /sbin/nologin mysql -g mysql
[root@master ~]# chown -R mysql.mysql /usr/local/mysql
[root@master ~]# mkdir -p /data/mysql
[root@master ~]# /usr/local/mysql/scripts/mysql_install_db --basedir=/usr/local/mysql --datadir=/usr/local/mysql/data --user=mysql

4.修改 Master 的主配置文件/etc/my.cnf 文件，三台服务器的 server-id 不能一样，另外两台写 2 和 3 即可！写入内容如下：

  • 配置mysql-master主服务器：
[root@master ~]# cat /etc/my.cnf
[mysqld]
server-id = 1
log_bin = master-bin
log-slave-updates = true
  • 配置mysql-slave1从服务器：
[root@slave1 ~]# vim /etc/my.cnf
[mysqld]
server-id = 2 //增加
log_bin = master-bin
relay-log = relay-log-bin //增加
relay-log-index = slave-relay-bin.index //增加
这里要注意 server-id 不能相同。
需要删除字符集utf8的语句
  • 配置mysql-slave2从服务器：
[root@slave2 ~]# vim /etc/my.cnf
[mysqld]
server-id = 3 //增加
log_bin = master-bin
relay-log = relay-log-bin //增加
relay-log-index = slave-relay-bin.index //增加
这里要注意 server-id 不能相同。
需要删除字符集utf8的语句

5.master、slave1、slave2 分别做两个软链接，软链接是为 HMA 服务的。

[root@Mysql1 ~]# ln -s /usr/local/mysql/bin/mysql /usr/sbin/
[root@Mysql1 ~]# ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

6.master、slave1、slave2 启动 MySQL。

[root@Mysql1 ~]# systemctl start mysqld
[root@Mysql1 ~]# systemctl status mysqld
[root@Mysql1 ~]# netstat -anpt | grep 3306

7.配置 MySQL 一主两从
MySQL 主从配置相对比较简单。需要注意的是授权。步骤如下：

  • 在所有数据库节点上授权两个用户，一个是从库同步使用，另外一个是 manager 使用。
[root@master ~]# mysql
mysql> grant replication slave on *.* to 'myslave'@'192.168.10.%' identified by '123';
mysql> grant all privileges on *.* to 'mha'@'192.168.10.%' identified by 'manager';
mysql> flush privileges;
  • 下面三条授权按理论是不用添加的，但是做案例实验环境时候通过 MHA 检查
    MySQL 主从有报错，报两个从库通过主机名连接不上主库，所以所有数据库加上下面的授
    权。
mysql> grant all privileges on *.* to 'mha'@'Mysql1' identified by 'manager';
mysql> grant all privileges on *.* to 'mha'@'Mysql2' identified by 'manager';
mysql> grant all privileges on *.* to 'mha'@'Mysql3' identified by 'manager';
  • 在 Mysql1 主机上查看二进制文件和同步点
mysql> show master status
    -> ;
+-------------------+----------+--------------+------------------+-------------------+
| File              | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+----------+--------------+------------------+-------------------+
| master-bin.000001 |     1295 |              |                  |                   |
+-------------------+----------+--------------+------------------+-------------------+
1 row in set (0.00 sec)
  1. 接下来在 Mysql2 和 Mysql3 分别执行同步。
mysql> change master to master_host='192.168.10.10',master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=1295;  和上表保持一致
mysql> start slave;
mysql> show slave status\G;
Slave_IO_Running: Yes
Slave_SQL_Running: Yes

##I/O线程显示为NO: 主库与从库网络不通、主库未授权给从库
##SQL线程显示为NO：从库日志和位置点与主不同步
##若从库查看连接主库I/0线程状态为conneting，一直是这个状态，考虑双方的防火墙是否开启。

6.必须设置两个从库为只读模式

mysql> set global read_only=1;

7.在主库插入两条数据，测试是否同步

mysql> create database qi;
mysql> use tanwenlong;
mysql> create table test(id int（4））;
mysql> insert into test(id) values (1);
mysql> show tables;
+--------------+
| Tables_in_qi |
+--------------+
| test         |
+--------------+
1 row in set (0.00 sec)

8.在两个从库分别查询如下所示说明主从同步正常

mysql> select * from qi.test;
+------+
| id   |
+------+
|    1 |
+------+
1 row in set (0.00 sec)

安装MHA软件

1、在所有服务器上都安装 MHA 依赖的环境，每个服务器上都需要两个源（epel.repo和CentOS7-Base-163.repo）,将这两个源放入/etc/yum.repos.d的目录下，在主服务器上操作演示安装

[root@manger ~]# yum install epel-release --nogpgcheck
[root@manger ~]# yum install -y perl-DBD-MySQL perl-Config-Tiny perl-Log-Dispatch perl-Parallel-ForkManager perl-ExtUtils-CBuilder perl-ExtUtils-MakeMaker perl-CPAN

2、在所有服务器上必须先安装 node 组件，最后在 MHA-manager 节点上安装 manager 组件，因为 manager 依赖 node 组件

[root@manger ~]# tar zxvf mha4mysql-node-0.57.tar.gz 
[root@manger ~]# cd mha4mysql-node-0.57/
[root@manger mha4mysql-node-0.57]# perl Makefile.PL 
[root@manger mha4mysql-node-0.57]# make && make install

3、在mha-manager 服务器上安装 manager 组件

[root@manger ~]# tar zxvf mha4mysql-manager-0.57.tar.gz 
[root@manger ~]# cd mha4mysql-manager-0.57/
[root@manger mha4mysql-manager-0.57]# perl Makefile.PL 
[root@manger mha4mysql-manager-0.57]# make && make install
  • manager 安装后在/usr/local/bin 下面会生成几个工具，主要包括以下几个：
工具 作用
masterha_check_ssh 检查 MHA 的 SSH 配置状况
masterha_check_repl 检查 MySQL 复制状况
masterha_manger 启动 manager的脚本
masterha_check_status 检测当前 MHA 运行状态
masterha_master_monitor 检测 master 是否宕机
masterha_master_switch 控制故障转移（自动或者手动）
masterha_conf_host 添加或删除配置的 server 信息
masterha_stop 关闭manager
  • node 安装后也会在/usr/local/bin 下面会生成几个脚本（这些工具通常由 MHA-Manager 的脚本触发，无需人为操作）主要如下：
脚本 作用
save_binary_logs 保存和复制 master 的二进制日志
apply_diff_relay_logs 识别差异的中继日志事件并将其差异的事件应用于其他的 slave
filter_mysqlbinlog 去除不必要的 ROLLBACK 事件（MHA 已不再使用这个工具）
purge_relay_logs 清除中继日志（不会阻塞 SQL 线程）

4.配置无密码认证
manger服务器

[root@manger ~]# ssh-keygen -t rsa
[root@manger ~]# ssh-copy-id 192.168.10.10
[root@manger ~]# ssh-copy-id 192.168.10.20
[root@manger ~]# ssh-copy-id 192.168.10.30

master

[root@master ~]# ssh-keygen -t rsa
[root@master ~]# ssh-copy-id 192.168.10.20
[root@master ~]# ssh-copy-id 192.168.10.30

slave1：

[root@slave1 ~]# ssh-keygen -t rsa
[root@slave1 ~]# ssh-copy-id 192.168.10.10
[root@slave1 ~]# ssh-copy-id 192.168.10.30

slave2：

[root@slave2 ~]# ssh-keygen -t rsa
[root@slave2 ~]# ssh-copy-id 192.168.10.10
[root@slave2 ~]# ssh-copy-id 192.168.10.20

配置MHA

1.在 manager 节点上复制相关脚本到/usr/local/bin 目录,复制上述的自动切换时 VIP 管理的脚本到/usr/local/bin 目录，这里使用脚本管理 VIP

[root@manger ~]# cp -ra mha4mysql-manager-0.57/samples/scripts /usr/local/bin/
[root@manger ~]# ll /usr/local/bin/scripts/
总用量 32
-rwxr-xr-x. 1 1001 1001  3648 5月  31 2015 master_ip_failover  ##自动切换时 VIP 管理的脚本
-rwxr-xr-x. 1 1001 1001  9870 5月  31 2015 master_ip_online_change  ##在线切换时 vip 的管理
-rwxr-xr-x. 1 1001 1001 11867 5月  31 2015 power_manager  ## 故障发生后关闭主机的脚本
-rwxr-xr-x. 1 1001 1001  1360 5月  31 2015 send_report  ## 因故障切换后发送报警的脚本
[root@manger ~]# cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin/
[root@manger ~]# vi /usr/local/bin/master_ip_failover 
#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
my $vip = '192.168.10.200';
my $brdc = '192.168.10.255';
my $ifdev = 'ens33';
my $key = '1';
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";
my $exit_code = 0;
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {
    
    

print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

if ( $command eq "stop" || $command eq "stopssh" ) {
    
    

my $exit_code = 1;
eval {
    
    
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
    
    
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {
    
    

my $exit_code = 10;
eval {
    
    
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
    
    
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
    
    
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
    
    
&usage();
exit 1;
}
}
sub start_vip() {
    
    
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
# A simple system call that disable the VIP on the old_master
sub stop_vip() {
    
    
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
    
    
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

2.创建 MHA 软件目录并拷贝配置文件

[root@manger ~]# mkdir /etc/masterha
[root@manger ~]# cp mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha/
[root@manger ~]# vi /etc/masterha/app1.cnf 
[server default]
manager_workdir=/var/log/masterha/app1
manager_log=/var/log/masterha/app1/manager.log
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script= /usr/local/bin/master_ip_failover
master_ip_online_change_script= /usr/local/bin/master_ip_online_change
password=manager
user=mha
ping_interval=1
remote_workdir=/tmp
repl_password=123456
repl_user=myslave
secondary_check_script= /usr/local/bin/masterha_secondary_check -s 192.168.10.10 -s 192.168.10.20 -s 192.168.10.30
shutdown_script=""
ssh_user=root

[server1]
hostname=192.168.10.10
port=3306

[server2]
hostname=192.168.10.20
port=3306
candidate_master=1   #设置为候选master
check_repl_delay=0     #默认情况下如果一个slave落后master 100M的relay logs的话，MHA将不会选择该slave作为一个新的slave，但check_repl_delay=0的话，即使落后很多日志，也强制选择其为备选主库。

[server3]
hostname=192.168.10.30
port=3306

3.测试 ssh 无密码认证，如果正常最后会输出 successfully

[root@manger ~]# masterha_check_ssh --conf=/etc/masterha/app1.cnf
。。。此处省略
Wed Dec 30 16:48:49 2020 - [info] All SSH connection tests passed successfully.

4、测试 MySQL 主从连接情况，最后出现 MySQL Replication Health is OK 字样说明正常

[root@manger ~]# masterha_check_repl -conf=/etc/masterha/app1.cnf
...............		#省略内容
IN SCRIPT TEST====/sbin/ifconfig ens33:1 down==/sbin/ifconfig ens33:1 20.0.0.200===

Checking the Status of the script.. OK 
Sun Nov  1 15:54:59 2020 - [info]  OK.
Sun Nov  1 15:54:59 2020 - [warning] shutdown_script is not defined.
Sun Nov  1 15:54:59 2020 - [info] Got exit code 0 (Not master dead).

MySQL Replication Health is OK.

5.第一次配置需要去master上手动开启虚拟IP

[root@master ~]# /sbin/ifconfig ens33:1 192.168.10.100/24

6.启动MHA

[root@manger ~]# nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

7.查看 MHA 状态，可以看到当前的 master 是主服务器节点

[root@manger ~]# masterha_check_status --conf=/etc/masterha/app1.cnf
app1 (pid:5692) is running(0:PING_OK), master:192.168.10.10

8.查看 MHA 日志，也以看到当前的 master 是 192.168.10.10

cat /var/log/masterha/app1/manager.log

故障模拟

1、将master数据库关闭，模拟宕机

[root@master ~]# pkill -9 mysql

2、查看从库slave2状态,master_host有原slave1顶替，IO进程和SQL进程正常

[root@slave2 ~]# mysql
mysql> show slave status \G
*************************** 1. row ***************************
               Slave_IO_State: Waiting for master to send event
                  Master_Host: 192.168.10.20    ###主库成功切换到备选主库
                  Master_User: myslave
                  Master_Port: 3306
                Connect_Retry: 60
              Master_Log_File: master-bin.000001
          Read_Master_Log_Pos: 1232
               Relay_Log_File: relay-log-bin.000002
                Relay_Log_Pos: 284
        Relay_Master_Log_File: master-bin.000001
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes

在slave1上用ip addr查看漂移地址vip

[root@slave1 ~]# ip addr
	ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
    link/ether 00:0c:29:32:ee:41 brd ff:ff:ff:ff:ff:ff
    inet 192.168.10.20/24 brd 192.168.10.255 scope global ens33
       valid_lft forever preferred_lft forever
    inet 192.168.10.200/24 brd 192.168.10.255 scope global secondary ens33:1

修复主从

[root@manger ~]# vi /etc/masterha/app1.cnf
。。。此处省略
[server1]
hostname=192.168.10.10
port=3306
candidate_master=1
check_repl_delay=0

[server2]
hostname=192.168.10.20
port=3306

[server3]
hostname=192.168.10.30
port=3306

1.在master服务器上重启mysql服务，将坏库重新添加到主从同步中

[root@master ~]# systemctl start mysql
[root@master ~]# mysql
mysql> change master to master_host='192.168.10.20',master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=1892; 
mysql> start slave;
Query OK, 0 rows affected (0.01 sec)
mysql> show slave status\G
*************************** 1. row ***************************
               Slave_IO_State: Waiting for master to send event
                  Master_Host: 192.168.10.20
                  Master_User: myslave
                  Master_Port: 3306
                Connect_Retry: 60
              Master_Log_File: master-bin.000001
          Read_Master_Log_Pos: 1232
               Relay_Log_File: master-relay-bin.000002
                Relay_Log_Pos: 284
        Relay_Master_Log_File: master-bin.000001
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes

2.测试主从同步是否正常：
主服务器

mysql> create database qi2;
Query OK, 1 row affected (0.00 sec)

从服务器

mysql> show databases;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| mysql              |
| performance_schema |
| qi                 |
| qi2                |
| t1                 |
| test               |
+--------------------+
7 rows in set (0.00 sec)

3.健康检查

[root@Manager ~]# masterha_check_ssh -conf=/etc/masterha/app1.cnf
[root@Manager ~]# masterha_check_repl -conf=/etc/masterha/app1.cnf 
...省略内容
MySQL Replication Health is OK.

4.启动服务

[root@manager ~]# nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

四、MHA部署中容易发生的错误

Slave_IO_Running: NO

  • 若从库查看连接主库I/0线程状态为conneting，一直是这个状态，考虑双方的防火墙是否开启。

Slave_IO_Running: Connecting

  • 检查主从服务器的防火墙

Slave_SQL_Running: NO

  • 检查主服务的授权
  • 重新向主服务器申请同步

masterha_check_ssh -conf=/etc/masterha/app1.cnf

  • 若出现报错，根据报错信息检查ssh免密登录是否正常
  • 博主出现在manger中文件中/etc/masterha/app1.cnf配置错误

masterha_check_repl -conf=/etc/masterha/app1.cnf

  • 若出现is not ok，去三台服务器中授权
    grant all privileges on *.* to 'mha'@'192.168.158.10' identified by 'manager';
grant all privileges on *.* to 'mha'@1'92.168.158.20' identified by 'manager';
grant all privileges on *.* to 'mha'@'192.168.158.30' identified by 'manager';

若出现There is no alive slave.We can’t do failover.
请显示着关闭从防火墙！！！

猜你喜欢

转载自blog.csdn.net/weixin_49780168/article/details/112125673
今日推荐
周排行
Android图片与下拉框
java常用的设计模式之单例模式
zabbix自动化监控之自动注册
杨老师课堂之Excel VBA 程序开发第八讲使用工作表函数
Android 去掉底部虚拟导航栏
Android Studio 3.2 Beta 4 发布，功能改进和修复
Linux-3.5_总线驱动设备
Qt QTableView QStandardItemModel用法
session处理
分享几个实用的方法
每日归档
更多
2025-02-06(0)
2025-02-05(0)
2025-02-04(0)
2025-02-03(0)
2025-02-02(0)
2025-02-01(0)
2025-01-31(0)
2025-01-30(0)
2025-01-29(0)
2025-01-28(0)

代码天地 © 2018 codetd.com

境外服务器   最新电视剧2022