Groks
Groks

Занимательное чтиво про «багнутость» системы оценки эссе в GRE (местного ЕГЭ в США). Нейросеть обучали на сочинениях прошлых лет и машина научилась выявлять паттерны, которые коррелируют с более высокими или более низкими баллами, назначенными человеком. То есть алгоритм делает прогноз на то, сколько бы баллов присвоил человек данной работе, не анализируя качество написанного. В общем сейчас в США миллионы экзаменов оценивает машинный интеллект с кучей предубеждений по национальному признаку и не только.

https://www.vice.com/en_us/article/pa7dj9/flawed-algorithms-are-grading-millions-of-students-essays