…… 打错了，包不在多在精。

包不在精在多。

@snnn 我还是认为从原理上，它是符合那个期望的期望的式子的。只不过实践中，我觉得 batchsize 为 1 会导致很严重的收敛问题罢了。

用真名，免得出现和钱有关的纠纷时麻烦。

另外不用 iCloud 自带的邮箱，用别的。

@snnn 我觉得随机梯度下降优化的是整体目标函数的期望，随机变量是 mini-batch 。收敛性可能不满足，但是大体思想是没错的。至于收敛性…… 有多少数学方法的收敛性在实际计算机应用的时候是仔细考量过的？差不多收敛就行了。

http://i1.piimg.com/4851/bb15e992a91de3c8.png

静态博客想要用的舒畅，动态的管理后端必不可少。

然而这个你得自己开发。

话说，最大的嘈点难道不在于“手机借来借去”的问题吗？

我的做法是，除了不到一只手的几个核心亲友，其他人一律不借。不给密码，不给指纹解锁，谁的面子都不给。这种关系不够亲近还乱借手机的人，不用当他是朋友。

接上面没说完的话。楼主问普通程序员的价值在哪里？那我可以明确说，价值就在调参。每一个公司、每一个不同应用，都是要调参的，不可能让学术界的人在这上面浪费大量时间（他们还要研究新的结构、新的模型呢）。

而调参需要很多知识，否则你只能暴力调参，吃力不讨好。所以现在的“普通程序员”是没有调参的能力的。至于怎么办？我不知道。如何培养“普通程序员的调参能力”，这需要工业界去摸索。

首先反驳“机器学习的算法就这么几种”这一观点。少年你得去看看 Graphical Models ，针对每一个实际问题要先建概率图模型，这一步就得兼顾可计算性和对问题的刻画能力。然后你找一种分布式算法去算吧， Parameter Servers 在向你招手。可以说每一个不同的数学模型建出来的 Graphical Model 就是一个不同算法，要是不同意，你就得承认 HMM 和 Logistic Regression 是同一种算法（都可以由 Graphical Model 刻画）。

要能精确通过数学语言刻画一个实际问题，这就是功力。

如果你不想用 Graphical Model 而投降“黑箱”算法——深度（神经网络）学习。呵呵，你真以为神经网络是完全黑箱吗？你明白 CNN 是针对数据的什么特性在工作吗？（ local receptive field + 平移不变性）应用到具体的问题上就更复杂了，比如两分类，我如果保证正例标注只会漏标不会错标，你如何修改标准的 loss function 以提升在这个具体问题上的性能？

神经网络现在有很多零件，包括结构上比如 CNN, LSTM, Auto-Encoders ，启发式约束比如 L1/L2 正则化，各种 Sparsity Constraint ，训练方法比如 Nesterov Momumtum （一阶方法）， L-BFGS （二阶方法）。网络结构尚且不说，其他每一个超参都会影响到最终训练出来的模型。如何训练神经网络是一种艺术而非技术。

不越狱，绝不越狱。倒不如说不越狱用的很开心是我用苹果的理由。

春节法定假期是 3 天，就好像国庆法定假期 3 天，劳动节法定假期 1 天一个道理。

所谓 7 天黄金周，是通过 3 天法定假 + 2 天周末 + 2 天调休形成的。

这么多年了连这种制度都没看明白么？

试试罗技 G502 急速滚轮。

Python 语言设计的一个规定，参数的默认值是对象而非一个表达式，不会每次重新执行，所以你在默认参数写 l=[] 才会导致 mutable 。

C++ 的规定正好相反，参数的默认值是一个表达式而非一个对象，每次调用都会重新执行这个表达式。

try: ... catch ... else: ...

IDE 上手慢，但是熟悉之后绝对可以提升任何任务的工作效率。

@guolingbing 用用看吧，习惯了会很爽的。

你可以看看 itertools 这个包，有很多好用的函数。