《Learning Piece-wise Linear Models from Large Scale Data for Ad Click Prediction》阿里妈妈MLR模型与python代码_十三-程序员宅基地

技术标签： CTR MLR python 推荐算法与Tensorflow 《Learning Piece-wise Linear Models 推荐算法

MLR 模型可以用于点击率CTR预估（二分类）。

可以先看一下原文下载地址 https://arxiv.org/pdf/1704.05194.pdf 。

数学模型写成了如下形式：
在这里插入图片描述
文中， $σ (x)$ 采用Softmax函数， $η (x)$ 采用sigmoid函数，同时， $g (x) = x$ ，那么上式可以转换成：

在这里插入图片描述

模型的损失函数为包含三部分：交叉熵损失，L2正则化，L1正则化。
在这里插入图片描述
代码部分如下：

import tensorflow as tf
from sklearn.metrics import roc_auc_score

from data import get_data
train_x,train_y,test_x,test_y = get_data()

import pandas as pd

x = tf.placeholder(tf.float32,shape=[None,108])
y = tf.placeholder(tf.float32,shape=[None])

m = 2
learning_rate = 0.3

# 计算Softmax部分
u = tf.Variable(tf.random_normal([108,m],0.0,0.5),name='u')
U = tf.matmul(x,u)
p1 = tf.nn.softmax(U)

# 计算sigmoid部分
w = tf.Variable(tf.random_normal([108,m],0.0,0.5),name='w')
W = tf.matmul(x,w)
p2 = tf.nn.sigmoid(W)

# 预测结果
pred = tf.reduce_sum(tf.multiply(p1,p2),1)

# 损失函数
cost1=tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(logits=pred, labels=y))
cost=tf.add_n([cost1])

# 训练器，FtrlOptimizer作为优化器，可以给我们的损失函数加上正则项：
train_op = tf.train.FtrlOptimizer(learning_rate).minimize(cost)

"""
tf.train.FtrlOptimizer 
更新方法主要用于广告点击预测,广告点击预测通常千万级别的维度,因此有巨量的稀疏权重.其主要特点是将接近0 的权重直接置0,
这样计算时可以直接跳过,从而简化计算.这个方法已经验证过在股票数据上较有效。
"""
result = []
with tf.Session() as sess:
    sess.run(tf.global_variables_initializer())
    for epoch in range(0, 10000):
        f_dict = {x: train_x, y: train_y}
        _, cost_, predict_ = sess.run([train_op, cost, pred], feed_dict=f_dict)
        auc = roc_auc_score(train_y, predict_)
        if epoch % 100 == 0:
            f_dict = {x: test_x, y: test_y}
            _, cost_, predict_test = sess.run([train_op, cost, pred], feed_dict=f_dict)
            test_auc = roc_auc_score(test_y, predict_test)
            print("%d cost:%f,train_auc:%f,test_auc:%f" % (epoch, cost_, auc, test_auc))
            result.append([epoch,auc,test_auc])

本文链接：https://blog.csdn.net/qq_40006058/article/details/89287179

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

python enter 与 exit的作用，以及与 with 语句的关系_weixin_30437337的博客-程序员宅基地

有一些任务，可能事先需要设置，事后做清理工作。对于这种场景，Python的with语句提供了一种非常方便的处理方式。一个很好的例子是文件处理，你需要获取一个文件句柄，从文件中读取数据，然后关闭文件句柄。如果不用with语句，代码如下：1 file = open("/tmp/foo.txt")2 data = file.read()3 file.close()这里有两个问...

python注释改编码_python注释参与编码吗_weixin_39798579的博客-程序员宅基地

通常而言，合理的代码注释应该占源代码的 1/3 左右。Python 语言允许在任何地方插入空字符或注释，但不能插入到标识符和字符串中间。python的注释是不会参与编码的，也就是说注释是不会被解释器解析的。在 Python 中，通常包括 3 种类型的注释，分别是单行注释、多行注释和中文编码声明注释。Python 中使用井号(‘#’)作为单行注释的符号，语法格式为：#注释内容也就是说，从符号‘#’...

es拼音分词大帅哥_elasticsearch实现中文分词和拼音分词混合查询+CompletionSuggestion..._飒姐的博客-程序员宅基地

引言之前已经介绍了如何搭建elasticsearch服务端和简单的索引创建，和中文分词的支持。今天我们来说一说如何实现elasticsearch同时实现中文分词和pinyin分词。并且实现类似百度搜索栏的搜索建议的功能。混合查询实现混合查询有很多方式，这里介绍我认为是一个偷懒的方法，就是为你要拼音搜索的字段提供两个额外的字段，一个是全拼字段，一个是首字母缩写字段。我这里用的是官网的Employee...

android 植入谷歌广告,将谷歌广告添加到Android应用程序_iamnotDirac的博客-程序员宅基地

我想将谷歌广告添加到我的应用程序(这是我的第一次).我也添加了jar文件.这是xml.xmlns:ads="http://schemas.android.com/apk/lib/com.google.ads"android:layout_width="match_parent"android:layout_height="match_parent"android:orientation="vert...

程序员健身之马拉松篇_weixin_33726318的博客-程序员宅基地

程序员的身体差，似乎已经是大家的共识。整天对着电脑不运动，长此以往导致各种疾病缠身。新闻里也时不时的报道些程序员加班猝死的新闻。本人虽然是程序员，但是还是比较热爱运动的。毕业后有4，5年了，每周还时不时的踢踢球、打打篮球。每天上下班都是骑自行车，来回有26公里。加上大学时候经常锻炼，身体底子还不错。只不过上班后吃的比以前好了，运动量也没以前大了，体重蹭蹭的往上涨，最重的时候已经达到了80kg。...

svn更新java代码linux_linux下SVN配置实现项目目录自动更新以及源码安装的操作方法..._weixin_39721953的博客-程序员宅基地

配置钩子文件自动更新开发环境提交更新至服务器时会出现每次在服务器端项目目录下必须手动更新SVN up才可以访问最新更新，通过钩子文件配置则可以实现自动更新新建文件：vim /usr/local/svn/demo/hooks/post-commit添加如下文字：#!/bin/shexport LANG=en_US.UTF-8/usr/bin/svn update /var/www/html/dem...