在线教育数仓项目(数据采集部分1)

文章目录

  • 数据仓库概念
  • 项目需求及架构设计
    • 项目需求分析
    • 系统数据流程设计
    • 框架版本选型
    • 集群规模估算
    • 集群资源规划设计
  • 数据生成模块
    • 目标数据
      • 页面
      • 事件
      • 曝光
      • 启动
      • 播放
      • 错误
    • 数据埋点
      • 主流埋点方式（了解）
      • 埋点数据上报时机
      • 埋点数据日志结构
    • 服务器和JDK准备
      • 服务器准备
      • 编写集群分发脚本xsync
      • SSH无密登录配置
      • JDK准备
      • 环境变量配置说明
        • 登录Shell和非登录Shell的区别
    • 模拟数据
      • 使用说明
      • 集群日志及业务数据生成脚本

数据仓库概念

数据仓库（ Data Warehouse ），是为企业制定决策，提供数据支持的。可以帮助企业改进业务流程、提高产品质量等。

数据仓库的输入数据通常包括：业务数据、用户行为数据和爬虫数据等

业务数据：就是各行业在处理事务过程中产生的数据。比如用户在网站中登录、下单、支付等过程中，需要和网站后台数据库进行增删改查交互，产生的数据就是业务数据。业务数据通常存储在MySQL、Oracle等数据库中。

用户行为数据：用户在使用产品过程中，通过埋点收集与客户端产品交互过程中产生的数据，并发往日志服务器进行保存。比如页面浏览、点击、停留、评论、点赞、收藏等。用户行为数据通常存储在日志文件中。

爬虫数据：通常是通过技术手段获取其他公司网站的数据。

项目需求及架构设计

项目需求分析

1）采集平台
（1）用户行为数据采集平台搭建
（2）业务数据采集平台搭建

2）离线需求
在这里插入图片描述
3）实时需求
在这里插入图片描述

系统数据流程设计

在这里插入图片描述

框架版本选型

在这里插入图片描述

集群规模估算

在这里插入图片描述

集群资源规划设计

下面是根据您提供的信息转换成的Markdown表格：

服务名称子服务hadoop102hadoop103hadoop104
hadoop102服务器√--
hadoop103服务器-√-
hadoop104服务器---
HDFSNameNode√--
HDFSDataNode√√√
HDFSSecondaryNameNode--√
YarnNodeManager√√√
YarnResourcemanager-√-
ZookeeperZookeeper Server√√√
Flume（采集日志）Flume√√-
KafkaKafka√√√
Flume（消费Kafka日志）Flume--√
Flume（消费Kafka业务）Flume--√
Hive√√√
MySQLMySQL√--
DataX√√√
Spark√√√
DolphinSchedulerApiApplicationServer√--
DolphinSchedulerAlertServer√--
DolphinSchedulerMasterServer√--
DolphinSchedulerWorkerServer√√√
DolphinSchedulerLoggerServer√√√
SupersetSuperset√--
服务数总计161112

数据生成模块

目标数据

我们要收集和分析的数据主要包括页面数据、事件数据、曝光数据、启动数据、播放数据和错误数据。

页面

页面数据主要记录一个页面的用户访问情况，包括访问时间、停留时间、页面路径等信息。

1）日志范例如下

{"actions": [
…],"common": {
…},"displays": […],"page": {"during_time": 11622,"item": "57","item_type": "course_id","last_page_id": "course_list","page_id": "course_detail"},"ts": 1645529967261
}

2）所有页面类型如下：

home("首页")
course_list("列表页")
course_detail("商品详情")
chapter_video("章节视频")
cart("购物车")
order("下单结算")
payment("支付页面")
exam("考试")
mine("我的")

3）所有页面对象类型如下：

course_id("课程Id")
keyword("搜索关键词")
video_id("视频id")
chapter_id("章节id")
coupon_id("购物券id")
order_id("订单id")
paper_id("考卷id")
exam_id("考试id")

事件

事件数据主要记录应用内一个具体操作行为，包括操作类型、操作对象、操作对象描述等信息。

1）日志范例：

{"actions": [{"action_id": "favor_add","item": "57","item_type": "course_id","ts": 1645529967261},{"action_id": "cart_add","item": "57","item_type": "course_id","ts": 1645529967261}],"common": {
…},"displays": [
…],"page": {
…},"ts": 1645529967261
}

注：对于下单、支付等业务数据，可从业务数据库获取。

2）所有动作类型如下

favor_add（新增收藏）
review_add（新增课程评价）
comment_add（新增章节评价）
cart_add（加购物车）

3）所有动作目标类型如下：

course_id("课程Id")
keyword("搜索关键词")
video_id("视频id")
chapter_id("章节id")
coupon_id("购物券id")
order_id("订单id")
paper_id("考卷id")
exam_id("考试id")

曝光

曝光数据主要记录页面所展示的内容，包括曝光对象，曝光类型等信息。

1）曝光日志范例：

{"actions": […],"common": {…},"displays": [{"display_type": "query","item": "6","item_type": "course_id","order": 1,"pos_id": 4},{"display_type": "query","item": "8","item_type": "course_id","order": 2,"pos_id": 5},{"display_type": "query","item": "1","item_type": "course_id","order": 3,"pos_id": 4},{"display_type": "query","item": "10","item_type": "course_id","order": 4,"pos_id": 1},{"display_type": "promotion","item": "4","item_type": "course_id","order": 5,"pos_id": 4},{"display_type": "promotion","item": "4","item_type": "course_id","order": 6,"pos_id": 4},{"display_type": "query","item": "9","item_type": "course_id","order": 7,"pos_id": 1}],"page": {…},"ts": 1645529967261
}

2）所有曝光类型如下：

promotion("商品推广")
recommend("算法推荐商品")
query("查询结果商品")
activity("促销活动")

3）所有曝光对象类型如下：

course_id("课程Id")
keyword("搜索关键词")
video_id("视频id")
chapter_id("章节id")
coupon_id("购物券id")
order_id("订单id")
paper_id("考卷id")
exam_id("考试id")

启动

启动数据记录应用的启动信息。

1）启动日志范例:

{"common": {…},"start": {"entry": "notice","first_open": 0,"loading_time": 17970,"open_ad_id": 20,"open_ad_ms": 2876,"open_ad_skip_ms": 0},"ts": 1645532980257
}

2）所有启动入口类型如下：

icon("图标"),
notice("通知"),
install("安装后启动");

播放

播放日志记录播放信息。

1）播放日志范例：

{"appVideo": {"play_sec": 19,"video_id": "3904"},"common": {
…},"ts": 1645526307119
}

错误

错误数据记录应用使用过程中的错误信息，包括错误编号及错误信息。

上述五种日志都有可能包含错误信息，此处仅对 appVideo 的错误日志进行展示。

1）错误日志范例

{"appVideo":{…},"common":{…},"err":{"error_code":3485,"msg":" Exception in thread \\  java.net.SocketTimeoutException\\n \\tat com.yudan.edu2021.mock.log.AppError.main(AppError.java:xxxxxx)"},"ts":1645538276217
}

数据埋点

主流埋点方式（了解）

目前主流的埋点方式，有代码埋点（前端/后端）、可视化埋点、全埋点三种。

  • 代码埋点是通过调用埋点SDK函数，在需要埋点的业务逻辑功能位置调用接口，上报埋点数据。例如，我们对页面中的某个按钮埋点后，当这个按钮被点击时，可以在这个按钮对应的 OnClick 函数里面调用SDK提供的数据发送接口，来发送数据。
  • 可视化埋点只需要研发人员集成采集 SDK，不需要写埋点代码，业务人员就可以通过访问分析平台的“圈选”功能，来“圈”出需要对用户行为进行捕捉的控件，并对该事件进行命名。圈选完毕后，这些配置会同步到各个用户的终端上，由采集 SDK 按照圈选的配置自动进行用户行为数据的采集和发送。
  • 全埋点是通过在产品中嵌入SDK，前端自动采集页面上的全部用户行为事件，上报埋点数据，相当于做了一个统一的埋点。然后再通过界面配置哪些数据需要在系统里面进行分析。

埋点数据上报时机

埋点数据上报时机包括两种方式。

方式一，在离开该页面时，上传在这个页面产生的所有数据（页面、事件、曝光、错误等）。优点，批处理，减少了服务器接收数据压力。缺点，不是特别及时。

方式二，每个事件、动作、错误等，产生后，立即发送。优点，响应及时。缺点，对服务器接收数据压力比较大。

埋点数据日志结构

我们的日志结构大致可分为三类，一是普通页面埋点日志，二是启动日志，三是播放日志。

普通页面日志结构如下，每条日志包含了，当前页面的页面信息，所有事件（动作）、所有曝光信息以及错误信息。除此之外，还包含了一系列公共信息，包括设备信息，地理位置，应用信息等，即下边的common字段。

1）普通页面埋点日志格式

{"actions": [{"action_id": "favor_add","item": "57","item_type": "course_id","ts": 1645529967261},{"action_id": "cart_add","item": "57","item_type": "course_id","ts": 1645529967261}],"common": {"ar": "16","ba": "iPhone","ch": "Appstore","is_new": "1",--是否首日使用，首次使用的当日，该字段值为1，过了24:00，该字段置为0。"md": "iPhone 8","mid": "mid_161","os": "iOS 13.3.1","sc": "2","sid": "9acef85b-067d-49f9-9520-a0dda943304e","uid": "272","vc": "v2.1.134"},"displays": [{"display_type": "query","item": "6","item_type": "course_id","order": 1,"pos_id": 4},{"display_type": "query","item": "8","item_type": "course_id","order": 2,"pos_id": 5},{"display_type": "query","item": "1","item_type": "course_id","order": 3,"pos_id": 4},{"display_type": "query","item": "10","item_type": "course_id","order": 4,"pos_id": 1},{"display_type": "promotion","item": "4","item_type": "course_id","order": 5,"pos_id": 4},{"display_type": "promotion","item": "4","item_type": "course_id","order": 6,"pos_id": 4},{"display_type": "query","item": "9","item_type": "course_id","order": 7,"pos_id": 1}],"page": {"during_time": 11622,"item": "57","item_type": "course_id","last_page_id": "course_list","page_id": "course_detail"},"err":{"error_code":1359,"msg":" Exception in thread \\  java.net.SocketTimeoutException\\n \\tat com.yudan.edu2021.mock.log.AppError.main(AppError.java:xxxxxx)"},"ts": 1645529967261
}

2）启动日志格式

启动日志结构相对简单，主要包含公共信息，启动信息和错误信息。

{"common": {"ar": "1","ba": "Redmi","ch": "wandoujia","is_new": "1","md": "Redmi k30","mid": "mid_356","os": "Android 11.0","sc": "2","sid": "76909678-abaf-41c4-916d-a0a72f546bc1","uid": "161","vc": "v2.1.134"},"start": {"entry": "notice","first_open": 0,"loading_time": 17970,"open_ad_id": 20,"open_ad_ms": 2876,"open_ad_skip_ms": 0},"err":{"error_code":2959,"msg":" Exception in thread \\  java.net.SocketTimeoutException\\n \\tat com.yudan.edu2021.mock.log.AppError.main(AppError.java:xxxxxx)"},"ts": 1645532980257
}

3）播放日志

播放日志结构相对简单，主要包含公共信息，播放信息和错误信息。

{"appVideo": {"play_sec": 19,"video_id": "3904"},"common": {"ar": "4","ba": "Sumsung","ch": "oppo","is_new": "0","md": "Sumsung Galaxy S20","mid": "mid_253","os": "Android 11.0","sc": "1","sid": "47157c4a-4790-4b9a-a859-f0d36cd62a10","uid": "329","vc": "v2.1.134"},"err":{"error_code":3485,"msg":" Exception in thread \\  java.net.SocketTimeoutException\\n \\tat com.yudan.edu2021.mock.log.AppError.main(AppError.java:xxxxxx)"},"ts": 1645526307119
}

服务器和JDK准备

服务器准备

安装如下文档配置步骤，分别安装hadoop102、hadoop103、hadoop104三台主机。
具体配置链接

编写集群分发脚本xsync

1）xsync集群分发脚本

  • 需求：循环复制文件到所有节点的相同目录下

  • 需求分析

    ①rsync命令原始拷贝：

    rsync -av /opt/module root@hadoop103:/opt/

    ②期望脚本：
    xsync要同步的文件名称

    ③说明：在/home/yudan/bin这个目录下存放的脚本，atguigu用户可以在系统任何地方直接执行。

  • 脚本实现

    ①在用的家目录/home/atguigu下创建bin文件夹

      [yudan@hadoop102 ~]$ mkdir bin

    ②在/home/yudan/bin目录下创建xsync文件，以便全局调用

      [yudan@hadoop102 ~]$ cd /home/yudan/bin[yudan@hadoop102 ~]$ vim xsync

    #!/bin/bash
#1. 判断参数个数
if [ $# -lt 1 ]
thenecho Not Enough Arguement!exit;
fi
#2. 遍历集群所有机器
for host in hadoop102 hadoop103 hadoop104
doecho ====================  $host  ====================#3. 遍历所有目录，挨个发送for file in $@do#4 判断文件是否存在if [ -e $file ]then#5. 获取父目录pdir=$(cd -P $(dirname $file); pwd)#6. 获取当前文件的名称fname=$(basename $file)ssh $host "mkdir -p $pdir"rsync -av $pdir/$fname $host:$pdirelseecho $file does not exists!fidone
done

    ③修改脚本xsync具有执行权限

      [yudan@hadoop102 bin]$ chmod +x xsync

    ④测试脚本

      [yudan@hadoop102 bin]$ xsync xsync

SSH无密登录配置

  • hadoop102上生成公钥和私钥：

      [yudan@hadoop102 .ssh]$ ssh-keygen -t rsa

    然后敲（三个回车），就会生成两个文件id_rsa（私钥）、id_rsa.pub（公钥）

  • 将hadoop102公钥拷贝到要免密登录的目标机器上

      [yudan@hadoop102 .ssh]$ ssh-copy-id hadoop102[yudan@hadoop102 .ssh]$ ssh-copy-id hadoop103[yudan@hadoop102 .ssh]$ ssh-copy-id hadoop104

  • hadoop103上生成公钥和私钥：

      [yudan@hadoop103 .ssh]$ ssh-keygen -t rsa

    然后敲（三个回车），就会生成两个文件id_rsa（私钥）、id_rsa.pub（公钥）

  • 将hadoop103公钥拷贝到要免密登录的目标机器上

      [yudan@hadoop103 .ssh]$ ssh-copy-id hadoop102[yudan@hadoop103 .ssh]$ ssh-copy-id hadoop103[yudan@hadoop103 .ssh]$ ssh-copy-id hadoop104

  • hadoop104上生成公钥和私钥：

      [yudan@hadoop104 .ssh]$ ssh-keygen -t rsa

    然后敲（三个回车），就会生成两个文件id_rsa（私钥）、id_rsa.pub（公钥）

  • 将hadoop104公钥拷贝到要免密登录的目标机器上

      [yudan@hadoop102 .ssh]$ ssh-copy-id hadoop102[yudan@hadoop103 .ssh]$ ssh-copy-id hadoop103[yudan@hadoop104 .ssh]$ ssh-copy-id hadoop104

JDK准备

  • 卸载现有JDK（3台节点）

      [yudan@hadoop102 opt]# sudo rpm -qa | grep -i java | xargs -n1 sudo rpm -e --nodeps[yudan@hadoop103 opt]# sudo rpm -qa | grep -i java | xargs -n1 sudo rpm -e --nodeps[yudan@hadoop104 opt]# sudo rpm -qa | grep -i java | xargs -n1 sudo rpm -e --nodeps

    （1）rpm -qa：表示查询所有已经安装的软件包
    （2）grep -i：表示过滤时不区分大小写
    （3）xargs -n1：表示一次获取上次执行结果的一个值
    （4）rpm -e --nodeps：表示卸载软件

  • 将JDK导入到hadoop102的/opt/software文件夹下面

    JDK安装包
    链接: https://pan.baidu.com/s/1-bY0-GN85TJRhp-levcoSg?pwd=8ah6
    提取码: 8ah6

  • 在Linux系统下的opt目录中查看软件包是否导入成功

      [yudan@hadoop102 software]# ls /opt/software/看到如下结果：jdk-8u212-linux-x64.tar.gz

  • 解压JDK到/opt/module目录下

      [yudan@hadoop102 software]# tar -zxvf jdk-8u212-linux-x64.tar.gz -C /opt/module/

  • 配置JDK环境变量

    • 新建/etc/profile.d/my_env.sh文件

        [yudan@hadoop102 module]# sudo vim /etc/profile.d/my_env.sh#JAVA_HOMEexport JAVA_HOME=/opt/module/jdk1.8.0_212export PATH=$PATH:$JAVA_HOME/bin

    • 让环境变量生效

        [yudan@hadoop102 software]$ source /etc/profile.d/my_env.sh

  • 测试JDK是否安装成功

      [yudan@hadoop102 module]# java -version如果能看到以下结果、则Java正常安装java version "1.8.0_212"

  • 分发JDK

      [yudan@hadoop102 module]$ xsync /opt/module/jdk1.8.0_212/

  • 分发环境变量配置文件
    [yudan@hadoop102 module]$ sudo /home/yudan/bin/xsync /etc/profile.d/my_env.sh

  • 分别在hadoop103、hadoop104上执行source

      [yudan@hadoop103 module]$ source /etc/profile.d/my_env.sh[yudan@hadoop104 module]$ source /etc/profile.d/my_env.sh

环境变量配置说明

Linux的环境变量可在多个文件中配置，如/etc/profile，/etc/profile.d/*.sh，/.bashrc，/.bash_profile等，下面说明上述几个文件之间的关系和区别。

bash的运行模式可分为login shell和non-login shell。

例如，我们通过终端，输入用户名、密码，登录系统之后，得到就是一个login shell。而当我们执行以下命令ssh hadoop103 command，在hadoop103执行command的就是一个non-login shell。

登录Shell和非登录Shell的区别

在这里插入图片描述
这两种shell的主要区别在于，它们启动时会加载不同的配置文件，login shell启动时会加载/etc/profile，/.bash_profile，/.bashrc。non-login shell启动时会加载~/.bashrc。

模拟数据

使用说明

模拟数据生成文件地址
链接: https://pan.baidu.com/s/1ZYFLlkhI4JqvzugvySs_Sg
提取码: k93s

  1. 将application.yml、edu2021-mock-2022-06-18.jar、path.json、edu0222.sql、logback.xml上传到hadoop102的/opt/module/data_mocker目录下

    创建applog路径

     [yudan@hadoop102 module]$ mkdir /opt/module/data_mocker

  2. 需要安装配置MySQL
    MySQL安装包
    链接: https://pan.baidu.com/s/1Yov8DpOPaji58Axzp6VDWA?pwd=us87
    提取码: us87

    （1）将MySQL安装文件拷贝到/opt/software

     01_mysql-community-common-5.7.16-1.el7.x86_64.rpm02_mysql-community-libs-5.7.16-1.el7.x86_64.rpm03_mysql-community-libs-compat-5.7.16-1.el7.x86_64.rpm04_mysql-community-client-5.7.16-1.el7.x86_64.rpm05_mysql-community-server-5.7.16-1.el7.x86_64.rpmmysql-connector-java-5.1.27-bin.jar

    （2）卸载自带的Mysql-libs（如果之前安装过MySQL，要全都卸载掉）

     [yudan@hadoop102 software]$ rpm -qa | grep -i -E mysql\|mariadb | xargs -n1 sudo rpm -e --nodeps

    （3）安装 MySQL 依赖

     [yudan@hadoop102 software]$ sudo rpm -ivh 01_mysql-community-common-5.7.16-1.el7.x86_64.rpm[yudan@hadoop102 software]$ sudo rpm -ivh 02_mysql-community-libs-5.7.16-1.el7.x86_64.rpm[yudan@hadoop102 software]$ sudo rpm -ivh 03_mysql-community-libs-compat-5.7.16-1.el7.x86_64.rpm

    （4）安装 mysql-client

     [yudan@hadoop102 software]$ sudo rpm -ivh 04_mysql-community-client-5.7.16-1.el7.x86_64.rpm

    （5）安装 mysql-server

     [yudan@hadoop102 software]$ sudo rpm -ivh 05_mysql-community-server-5.7.16-1.el7.x86_64.rpm

    注意：如果报如下错误，这是由于yum安装了旧版本的GPG keys所造成，从rpm版本4.1后，在安装或升级软件包时会自动检查软件包的签名。

     warning: 05_mysql-community-server-5.7.16-1.el7.x86_64.rpm: Header V3 DSA/SHA1 Signature, key ID 5072e1f5: NOKEYerror: Failed dependencies:libaio.so.1()(64bit) is needed by mysql-community-server-5.7.16-1.el7.x86_64解决办法[yudan@hadoop102 software]$ sudo rpm -ivh 05_mysql-community-server-5.7.16-1.el7.x86_64.rpm --force --nodeps

    （6）启动 MySQL

     [yudan@hadoop102 software]$ sudo systemctl start mysqld

    （7）查看 MySQL 密码

     [yudan@hadoop102 software]$ sudo cat /var/log/mysqld.log | grep password

    （8）配置只要是root用户 + 密码，在任何主机上都能登录MySQL数据库。

     i）用刚刚查到的密码进入MySQL（如果报错，给密码加单引号）[yudan@hadoop102 software]$ mysql -uroot -p'password'ii）设置复杂密码（由于MySQL密码策略，此密码必须足够复杂）mysql> set password=password("Qs23=zs32");iii）更改MySQL密码策略mysql> set global validate_password_length=4;mysql> set global validate_password_policy=0;iv）设置简单好记的密码mysql> set password=password("000000");v）进入MySQL库mysql> use mysqlvi）查询user表mysql> select user, host from user;vii）修改user表，把Host表内容修改为%mysql> update user set host="%" where user="root";viii）刷新mysql> flush privileges;ix）退出mysql> quit;

  3. 需要安装配置MySQL

    sql文件地址
    通过网盘分享的文件：edu.sql
    链接: https://pan.baidu.com/s/1gQ3z-boyI7aSaPC8t2Yz3A?pwd=fyxm
    提取码: fyxm

（1）登录Navicat等连接MySQL工具，创建数据库edu

（2）在数据库edu下，运行edu.sql文件

集群日志及业务数据生成脚本

在hadoop102的/home/atguigu目录下创建bin目录，这样脚本可以在服务器的任何目录执行。

[yudan@hadoop102 ~]$ echo $PATH
/usr/local/bin:/usr/bin:/usr/local/sbin:/usr/sbin:/home/yudan/.local/bin:/home/yudan/bin

1）在/home/yudan/bin目录下创建脚本mock.sh

[yudan@hadoop102 bin]$ vim mock.sh

2）在脚本中编写如下内容

#! /bin/bash
ssh hadoop102 "cd /opt/module/data_mocker/;java -jar edu2021-mock-2022-06-18.jar 1>/dev/null 2>&1 &"

3）修改脚本执行权限

[yudan@hadoop102 bin]$ chmod +x mock.sh

4）测试脚本

[yudan@hadoop102 module]$ mock.sh

5）在hadoop102的/opt/module/data_mocker/log目录上查看生成的数据

[yudan@hadoop102 log]$ ls
app.log

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.rhkb.cn/news/387015.html

如若内容造成侵权/违法违规/事实不符，请联系长河编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

Linux:shell的基础用法

Linux:shell的基础用法

shell的基础用法 shell变量 Shell 支持以下三种定义变量的方式： valueabcvalue‘abc’value“abc”(注意，赋值号的周围不能有空格) Shell 变量的命名规范 变量名由数字、字母、下划线组成必须以字母或者下划线开头不能使用 Shell 里的关键字&#xff08…
阅读更多...
IDEA的pom.xml显示ignored 的解决办法

IDEA的pom.xml显示ignored 的解决办法

问题： idea中创建Maven module时，pom.xml出现ignored。 原因： 相同名称的module在之前被创建删除过，IDEA会误以为新的同名文件是之前删除掉的，将这个新的module的pom.xml文件忽略掉显示ignored. 解决： 在…
阅读更多...
springboot超市商品管理系统-计算机毕业设计源码55289

springboot超市商品管理系统-计算机毕业设计源码55289

摘 要 随着信息技术的快速发展和普及，传统的超市管理模式已经无法满足现代商业的需求。为了提高超市的管理效率，优化商品销售流程，本文提出了一种基于SpringBoot框架的超市商品管理系统。该系统结合了现代软件开发技术，包括MySQL数…
阅读更多...
WATLOW Power Series SSR User’s Manual

WATLOW Power Series SSR User’s Manual

WATLOW Power Series SSR User’s Manual
阅读更多...
【Java】字符串String类（011）

【Java】字符串String类（011）

目录 ♦️API和API帮助文档 ♦️创建String 🎏直接赋值类 🎏new类 🐡空参类 构造方法： 举例代码： 🐡有参类 构造方法： 举例代码： 🐡字符数组类 构造方法&…
阅读更多...
【C++】类和对象——流插入和流提取运算符重载

【C++】类和对象——流插入和流提取运算符重载

目录 前言ostream和istream自定义类型的流插入重载自定义类型的流提取重载解决私有问题日期类总接口 前言 我们在上一节实现日期类时，在输入和输出打印时，经常会调用两个函数： void Insert()//输入函数{cin >> _year;cin >> _mo…
阅读更多...
项目比赛经验分享：如何抓住“黄金一分钟”

项目比赛经验分享：如何抓住“黄金一分钟”

项目比赛经验分享：如何抓住“黄金一分钟” 前言引起注意：用事实和故事开场明确痛点：描述问题和影响介绍解决方案：简明扼要激发兴趣：使用视觉辅助概述演讲结构：清晰的路线图我的开场白示例结语 前言 在创新的…
阅读更多...
(源码分析)springsecurity认证授权

(源码分析)springsecurity认证授权

了解 1. 结构总览 SpringSecurity所解决的问题就是安全访问控制，而安全访问控制功能其实就是对所有进入系统的请求进行拦截，校验每个请求是否能够访问它所期望的资源。 根据前边知识的学习，可以通过Filter或AoP等技术来实现，Spr…
阅读更多...
鸿蒙应用框架开发【简单时钟】 UI框架

鸿蒙应用框架开发【简单时钟】 UI框架

简单时钟 介绍 本示例通过使用ohos.display接口以及Canvas组件来实现一个简单的时钟应用。 效果预览 使用说明 1.界面通过setInterval实现周期性实时刷新时间，使用Canvas绘制时钟，指针旋转角度通过计算得出。 例如："2 * Math.PI / …
阅读更多...
【PHP】系统的登录和注册

【PHP】系统的登录和注册

一、为什么要学习系统的登录和注册 系统的登录和注册可能存在多种漏洞，这些漏洞可能被恶意攻击者利用，从而对用户的安全和隐私构成威胁。通过学习系统的登录和注册理解整个登录和注册的逻辑方便后续更好站在开发的角度思考问题发现漏洞。以下是一些常见…
阅读更多...
BUGKU-WEB-好像需要密码

BUGKU-WEB-好像需要密码

如果点击start attrack 后出现 Payload set 1: Invalid number settings 的提示，先点hex 后点 decimal 再开始start attrack，这是一个软件bug，需要手动让它刷新。 解题思路 先随便输入测试：admin看看源码吧那就爆破了 据说&…
阅读更多...
WEBKIT 通过JavaScript 调用本地，硬件未来之窗OS硬件APP

WEBKIT 通过JavaScript 调用本地，硬件未来之窗OS硬件APP

以酒店为例我们需要调用shen份证读取，采集人脸，门锁写房卡，如何通过浏览器调用 1.通过本地http服务 2.通过webkit模式 这里说政务单位模式的集成 由于篇幅问题，怎么集成webkit就不说了 一、webkkit加载交互本地代码 browser.…
阅读更多...
旅游卡，免费，旅游是真的吗？真相是……

旅游卡，免费，旅游是真的吗？真相是……

但这种包来回大交通，一旦成本大于利润，他们就会以各种理由推卸责任。这就是我在“揭秘：共享旅游卡免费旅游，包来回路费，这背后的3大真相！”这篇文章里面讲到那个大妈的惨痛教训。 以上这5点真相&#xff0…
阅读更多...
大数据学习之Flink基础（补充）

大数据学习之Flink基础（补充）

Flink基础 1、系统时间与事件时间 系统时间（处理时间） 在Sparksreaming的任务计算时，使用的是系统时间。 假设所用窗口为滚动窗口，大小为5分钟。那么每五分钟，都会对接收的数据进行提交任务. 但是，这里有…
阅读更多...
Redis高可用之持久化，以及reids的性能管理

Redis高可用之持久化，以及reids的性能管理

一、redis高可用： 在集群当中有一个非常重要的指标，提供正常服务的时间的百分比（365天）99.9% redis的高可用含义更加宽泛，正常服务是指标之一，数据容量的扩展，数据的安全性 在redis中实现高可…
阅读更多...
平移、旋转、缩放和媒体

平移、旋转、缩放和媒体

一、平移 1.1translate（）函数 做转换工作可以用translate()函数，这个函数可以改变坐标系。通过改变默认的坐标系，我们可以创建不同的转换方式，包括平移、旋转和缩放。 1.2平移位置案例 案例代码如图1 图1 保存运行如…
阅读更多...
Flutter——全网最精致木鱼APP可上架应用市场

Flutter——全网最精致木鱼APP可上架应用市场

研发背景 工作之余，闲来无事，想着研发一款用户可能会经常用到的一款APP,并且能够顺便掌握一下Flutter Material Design 3 UI，所以就有了这款比较精致的木鱼APP的诞生。 开源代码 https://github.com/z244370114/woodenfish
阅读更多...
期刊评价指标及其查询方法

期刊评价指标及其查询方法

1、期刊评价体系一 科睿唯安《期刊引证报告》（Journal Citation Reports, JCR） 科睿唯安每年发布的《期刊引证报告》（Journal Citation Reports, JCR）是一个独特的多学科期刊评价工具。JCR数据库提供基于引文数据的统计信息的期…
阅读更多...
Linux下文件编译器-GCC/G++

Linux下文件编译器-GCC/G++

前言 本文介绍了c/c的编译过程以及gcc/g的时使用 一.c/c翻译的本质：将高级语言翻译成二进制 1）程序翻译过程： （1）预处理（头文件展开、宏替换、去注释、条件编译）还是C语言代码 ​ …
阅读更多...
项目：基于gRPC进行项目的微服务架构改造

项目：基于gRPC进行项目的微服务架构改造

文章目录 写在前面基本使用封装客户端封装服务端Zookeeper 写在前面 最近学了一下gRPC进行远程调用的原理，所以把这个项目改造成了微服务分布式的架构，今天也是基本实现好了，代码已提交 这里补充一下文档吧，也算记录一下整个过程…
阅读更多...
最新文章
推荐文章

Copyright @ 2022~2023

友情链接： 我的编程经验分享 一条长河网 尧图网站开发