Скандал лучше незамеченного зла.
Страшная сила великой безответственности.

Прочтя за праздники больше сотни разнообразных материалов с анализом итогов 2018 и прогнозами на 2019 в области ИИ, я попытался как-то отжать из них общий сухой остаток для своих читателей.
Заголовок поста – это то, что получилось.
• 1е предложение – взгляд оптимистов
• 2е – пессимистов.
Для иллюстрации взглядов оптимистов я использую итоговый отчет по ИИ за 2018 издания The Verge.
В роли пессимистов, как и положено по названию, - у меня выступит редакция The Guardian со своим прогнозом ИИ «Мир в 2019».

The Verge
https://goo.gl/p1dRtB
2018 ознаменовался парадом негативных заголовков о скандальных результатах и перспективах ИИ проектов.
- первые смертельные жертвы самоуправляемых авто;
- фирма Кембридж Аналитикс оскандалилась в попытках влияния на общественное мнение;
- компанию Facebook обвинили, что она способствовала геноциду в Мьянме;
- а компанию Google - в том, что помогала Пентагону обучать военные беспилотники;
- все технологические ассоциации, не сговариваясь, бьют в набат об огромном риске непроработанности этических вопросов ИИ.
Эти и многие другие примеры сподвигли исследовательскую группу AI Now охарактеризовать 2018, как год «каскадных скандалов» в области ИИ. И это точное, хотя и удручающее, определение.

В то же время, The Verge считает, что лучше уж публичные скандалы, чем заметание сора под ковёр. И если открыто клеймить все скандалы и обличать жадность и дурь тех, кто пытается использовать ИИ для своих низких целей или просто из-за суетливого желания застолбить за собой поляну с помощью недостаточно проработанных решений с непродуманными последствиями, - есть шанс, что всё понемногу образуется.
А другими словами, - ИИ может и сгубит мир, но не сразу, а мы еще успеем как следует помучиться. Вот такой оптимизм получился.

Теперь про анализ The Guardian.
https://goo.gl/j9J2tt
1) 2018 показал, что уровень ИИ технологий и человеческой глупости растут неимоверно быстро. И в 2019 нужно более всего опасаться слияния этих двух трендов.
2) Правительства, похоже, для себя вопрос с ИИ решили. Прагматический Китай не стесняясь заявил, что будет максимально использовать ИИ для «прогнозирования траекторий развития интернет-инцидентов ... превентивного вмешательства и управления общественным мнением для предотвращения массовых вспышек общественного мнения в Интернете и улучшения возможностей социального управления». Скромные правительства Запада вслух такого пока не говорят, но с интересом смотрят, что у Китая получится, чтобы сделать работу над ошибками.
3) В 2018 произошел концептуальный прорыв Google DeepMind в создании AlphaZero - самообучаемого класса программ, способных без участия человека в течение всего нескольких дней достигать сверхчеловеческого уровня в любой игре с «идеальной информацией», где все факты игры известны всем игрокам. Этот прорыв ставит крест на попытках сменить курс разработки ИИ систем в сторону понимаемого человеком способа решения задач ИИ программами. AlphaZero подход делает окончательно невозможным реконструировать процесс, по которому программы приходят к своим выводам, как решать задачу.
Вот превосходный рассказ всей истории AlphaZero https://goo.gl/5B56cT
4) Второе великое событие прошлого года немерено повышает риски от использования ИИ. В 2018 рост мощности HW и SW, сопровождаемый повсеместным триумфом облачных технологий, привел к полной демократизации ИИ технологии (они теперь доступны практически всем), но на самом деле это полная анархизация использования ИИ. Теперь все, от авторитарных правителей до криминала, получают в руки мощнейшие инструменты, и то, как они их применят, зависит лишь от уровня креативности их консультантов.
Вот свежий превосходный пример демократизации ИИ https://goo.gl/Ldyn7J

#ИИ #ИтогиПрогнозы

https://goo.gl/p1dRtB

The Verge 2018 tech report card: AI

This year’s AI-related headlines were mostly negative, but a scandal is better than evil that goes unnoticed. And controversy can, in theory, help us to improve.
| The Verge