Spark(二)—— 标签计算、用户画像应用 (2)

在这里插入图片描述

用户画像系统架构

在这里插入图片描述

在这里插入图片描述

用户画像实现

(1)实例一:性别判断

性别判断属于数据挖掘中分类问题。

(2)需求描述
根据用户数据判断用户性别。

(3)已知数据

数据1:用户使用App的行为数据

数据2:用户浏览网页的行为数据

(4)实现代码

object UserPicture { def main(args: Array[String]): Unit = { //创建Spark配置对象 val conf = new SparkConf().setMaster("local[4]").setAppName("MyApp"); val spark = SparkSession .builder() .appName("Spark SQL basic example") .config(conf) .getOrCreate(); //创建训练集 val training = spark.createDataFrame(Seq( (1.0,Vectors.dense(2.0,1.1,0.1)), (1.0,Vectors.dense(2.0,1.1,0.1)), (1.0,Vectors.dense(2.0,1.1,0.1)), (1.0,Vectors.dense(2.0,1.1,0.1)) )).toDF("label","features"); val lr = new LogisticRegression(); println(lr.explainParams()) //Set the maximum number of iterations. lr.setMaxIter(10) //Set the regularization parameter. .setRegParam(0.01) //Fits a model to the input data. val model1 = lr.fit(training) var paramMap = ParamMap(lr.maxIter -> 20).put(lr.maxIter,30) .put(lr.regParam -> 0.1,lr.threshold -> 0.55) //The parent estimator that produced this model. //extractParamMap with no extra values. println(model1.parent.extractParamMap()) } } 参考文档

Spark大数据互联网项目实战推荐系统
腾讯防刷负责人:基于用户画像大数据的电商防刷架构
让机器读懂用户--大数据中的用户画像
大数据开发用户画像案例分析
大数据工程师 dmp用户画像系统开发项目(完)
Spark大数据互联网项目实战推荐系统(全套)

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/zgjysy.html