机器学习在前两年的时间里,一下子就爆火了起来。很多公司也跟着这个趋势,招募了很多算法工程师、数据挖掘工程师。但是,在实践中,企业发现要落地,实际上还有很多问题需解决。以至于在大部分项目,还是规则主导。算法工程师的日常,也不过是清洗数据,调整规则。所以,机器学习技术,在真实的应用中到底缺少些什么呢?
在国立台湾大学《机器学习》2019春季班,李宏毅老师给出了他的观察。以下的内容,结合李老师的最新讲 …
Finetune Bert for Chinese NLP 问题被证明同图像一样,可以通过 finetune 在垂直领域取得效果的提升。Bert 模型本身极其依赖计算资源,从 0 训练对大多数开发者都是难以想象的事。在节省资源避免重头开始训练的同时,为更好的拟合垂直领域的语料,我们有了 finetune 的动机。
Bert 的文档本身对 finetune 进行了较为详细的描述,但对于不熟悉官方标准 …
一、数据挖掘的定义 什么是数据挖掘? 数据挖掘是一个用数据发现问题、解决问题的学科。 通常通过对数据的探索、处理、分析或建模实现。 数据挖掘学习路线 大学里并没有数据挖掘这么一个专业,现有的数据挖掘工程师大都来自工科或统计学等专业。 目前的数据挖掘工程师大都来自不同背景,计算机科学、数学甚至是机械工程。要想成功胜任,其诀窍是热情、好奇心,不断学习新的工具的能力,以及对数据清洗和分析的耐心。 给新 …
前言 春节假期临近,车票一度紧张。某行、某团开了加速包后,仍然无法第一时间刷到目的地的票。稍微有点儿技术底子的我们岂能坐以待毙,自然是要自己动手,丰衣足食。
网上有各类开源的工具包,这里不做过多点评。之前在好友圈内传得比较靠谱的是 12306Bypass,又叫分流。分流是一个 Windows 应用,工作在 PC 端。其核心功能完全免费,更更重要的是,它的监控刷新在本地可以真实的感知。
以前在学校还 …
原文链接 Slack 工程师 : why-is-data-hard?
做数据挖掘时,常常需要考虑很多方面。其中一个方面,常常会涉及到跨功能,复杂且琐碎的一些事项。数据准备以及评价指标的制定,就是这些事项之一。
等等,似乎干数据这一行,并不容易?
当大多数的组织谈到数据时,他们想的其实是指标——能反应近期业务、或是能够提供数据驱动的决策、抑或是能够监测企业经营状况的指标。
按上面的说法,我们应该能够 …
Source https://www.kaggle.com/c/recruit-restaurant-visitor-forecasting/discussion
总结一:保证数据同分布 验证集的选取,分布上应尽量靠近测试集。
方式一::对抗验证集的生成。 方式二: 就近选取相同天数。 方式三::类比属性。如本赛题 “golden week” 与 “new year” 类比,选取 “new …
SSD目标检测Keras版 SSD是一种Object Detection方法。本文是基于论文SSD: Single Shot MultiBox Detector,实现的keras版本。
该文章在既保证速度,又要保证精度的情况下,提出了SSD物体检测模型,与现在流行的检测模型一样,将检测过程整个成一个single deep neural network。便于训练与优化,同时提高检测速度。 SSD将输 …
使用GAN生成新的游戏角色 摘要 Generative Adversarial Networks(简称GAN),中文名叫生成对抗网络。我们将使用它,来生成新的阴阳师角色。 依赖 (pip install) cv2 tensorflow( >=1.0) scipy numpy 使用方法 cd yysGAN python yysGAN.py 5000次迭代训练结果 了解更多GAN …