vsetakoe
vsetakoe

Классическое машинное обучение предполагает, что предсказательная модель строится в мире прекрасных, но глупеньких розовых пони, которые не знают, что их пытаются моделировать, а практическое применение модели никак на этот мир не влияет. Такая наивность приводит к провалам: многие, скажем, помнят твиттер-бот Майкрософта, которого пользователи быстро натренировали любить Гитлера.
Ответ науки и бизнеса на это - "Adversarial machine learning": машинное обучение во враждебной среде. Идея заключается в том, чтобы, применяя модель в деле, допустить в прекрасный мир немного несовершенства: например, разрешить небольшую часть платёжных транзакций, которые с большой вероятностью являются мошенническими, или пропустить в ваш почтовый ящик немного спама. Такие вещи работают как прививки, делая модель устойчивее к атакам.

http://www.win-vector.com/blog/2016/09/adversarial-machine-learning/

http://www.win-vector.com/blog/2016/09/adversarial-machine-learning/

Adversarial machine learning

I just got back from a very good conference organized by startup.ml: Adversarial Machine Learning. Please read on for my to comments on part of one of the very good talks.
| Win-Vector Blog