HIVE 技巧积累之合并重叠日期
目前网上流传着一个段子,说算法工程师实际上就是 SQL boy,数据分析师是 PPT boy。艺术来源于现实,实际上的我们真的有很多时间在写 SQL 出数据,或者是针对 bad case 做数据的进一步分析。 这不,近期这边接到的一个需求就是对玩家的某项行为进行统计。一般来讲,掌握基本 SQL 的技巧,这些需求的难度都不大。但是这个需求需要将玩家用户的多个重叠日期进行拉伸去重。这一下可难到大伙儿。 …
从计算机视觉、机器学习比赛和模型复现写起,边学边做。
进入网易游戏后,内容转向数据挖掘、用户分析、A/B 测试和模型部署。
在米哈游做算法,继续写反作弊和用户增长,也开始整理技术管理、量化研究和读书笔记。
把重心放到 AI 编程、Agent 与 Skills、内容增长和产品实践,记录真正用过之后的判断、方法和结果。
目前网上流传着一个段子,说算法工程师实际上就是 SQL boy,数据分析师是 PPT boy。艺术来源于现实,实际上的我们真的有很多时间在写 SQL 出数据,或者是针对 bad case 做数据的进一步分析。 这不,近期这边接到的一个需求就是对玩家的某项行为进行统计。一般来讲,掌握基本 SQL 的技巧,这些需求的难度都不大。但是这个需求需要将玩家用户的多个重叠日期进行拉伸去重。这一下可难到大伙儿。 …
此文总结自 Udacity 的课程:A/B test,详细而系统地讲述了 Google,Amazon 以及 Netflix 等公司是如何在商业问题中设计 A/B test 并评估效果的,对于国内的业务也有很强的参考意义。这里是总结的的一部分:什么是 A/B test,讲述 A/B Test 的定义、适用范围以及和传统方法的异同。指标选择、实验设计与评估将在后面陆续放出。 A/B 概览 Q: …
之前逛论坛,或者学习网站,看到很多人喜欢推荐书。自己早些时候也是这样,但是只 mark,却很少去看。如今作为一名社会人,虽说工作之余时间少了很多,但业余仍在坚持阅读。其中,支撑学习动力的一本书便是:《穷查理宝典》。书中查理·芒格提到的多学科思维,以及复利思维,一直在影响我的交友、做事和看问题的方式。 有关注某校友的公众号,他是做爬虫和可视乎的。某天在推荐 Python 学习资料。封面看着挺美,点开 …
深度强化学习技巧 hacks for training deep RL 这是一篇旧文,John Schulman 《深度增强学习研究基础》演讲(Aug 2017)中记录的 tricks。近日重看,发现有些东西在工程中是通用的,值得一读。 测试新算法的技巧 简化问题,使用低维变量。 使用类似只有角度和速度两个变量的 Pendulum problem 问题。 这样做方便将目标函数、算法的最终状态以及算 …
前言 学历与定位 近日在某论坛,有网友提问道:搞机器学习是不是要博士或是硕士学历,是不是要求很高,顶会论文?本科生或者更低学历的,是不是就没有机会了?从最近公司的招聘来看,算法工程师的 bar 确实有在提高。但在某些事业部,仍需要很大的人力来做落地场景。每个人都要找准自己的定位,公司也有它的部门定位。 如果是发论文、要在学术界站稳脚跟,给投资人“我们很重视最新技术”的信心,那博士确实很重要。另一个 …
这两天除了马总的 996, 互联网上最火的莫属被黑洞绊倒的视觉中国了。视觉中国因黑洞图的版权争端,被卷入更大的争端。一时间舆论哗然,其股票连续跌停。他是如何一步步壮大,又是为何跌倒的呢?往前看几年,起底其历史:公开资料显示,“视觉中国凭借其‘鹰眼技术’,有力的打击了“盗版”并成功形成了自己的商业模式。” 2016年初公司开发图像追踪系统,通过人工智能、图像比对、爬虫技术,能够追踪公司拥有代理权的图 …
机器学习这东西,在学术界产出颇多,但在工业界,却很少落地。究其原因,是理念落地不够彻底,很多从业者和相关上下游不理解所致。这次就这这个机会,梳理下一个机器学习,从立项到落地再到结束,他的完整生命周期该是什么样子的。这里参考了《Hands-On Machine Learning with Scikit-Learn and Tensorflow》,值得一提的是这本书写的很不错,和《集体智慧编程》有一 …
slack app:slack workspace 记得在校的时候,冰岩作坊做过一个app,讲接龙故事的。类似于我写一段,另一个人写接下来的一段,最后凑成一个完整的故事。当时,可产生了不少有意思的段子。最近,GPT2 模型的发布,让人不禁想到,有没有可能让机器来完成这个任务呢?机器写十四行诗、机器写莎士比亚风格的文章,机器写对联,这些都已经成为了现实。人工智能虽然没有带来突飞猛进的质变,但着实催生 …
数据科学家这个职位,随着12年的哈佛商业评论的一篇文章,成为了21世纪“最性感的职业”。这年头,越来越多的年轻人开始往这个方向奔,市场几近饱和。但是,很少有听见企业家说:“是的,我们很需要数据工程师,因为以下原因…“对于看此文的老板们,你们是否不止一次听到媒体鼓吹大数据、鼓吹机器学习、鼓吹人工智能,却很少有听到说这些东西,对于企业来说,实实在在带来了什么。如果你的答案是“Yes”,那么这篇文章将解 …
跑步进场 最近股市大涨,不少人忙着跑步进场。作为保守型“投资者”,主投指数基金:沪深300。在这波行情 中,短短2个月,也有13%的账面收益。虽然知道指数类适合长期持有,但也好奇,这个点是否是高位了。为了解决这个疑虑。我们今天用算法模型套一套,看能否发现些什么。 时序预测的价值 时序问题的预测在生活中很常见。例如:游戏在线人数预测、消费情况预测、 O2O 的到店人数预测、交通流量预测,这些场景的精 …