Исследователи из OpenAI, чьи боты недавно победили команду бывших киберспортсменов по Dota 2, показали обратную сторону своей технологии. Оказывается, тренируясь, ИИ может вести себя очень глупо: например чрезмерно копить золото, пока не достигнет 15 472 монет (у одного героя). Или же несуразно ставить смотровые вышки и даже покупать слишком много манго, если его не ограничить.
Среди прочих багов, продемонстрированных в ролике на YouTube-канале OpenAI, есть не менее смешные. Как вам бот, который долго не может решить, что купить: ботинки или книгу? Или то, как герой останавливается и стоит столбом, словно находясь AFK (вдали от клавиатуры)?Тем не менее, усилия стоили того: нейросети не только победили экс-киберспортсменов, но и предсказывали свои победы. Как отмечают в OpenAI, прогнозы были еще до того, как ИИ научился выбирать героев перед матчем. Но именно здесь функция пришлась кстати: система точно оценивает свои шансы, обновляя процент с каждым новым персонажем драфта.
Таким образом, ИИ предсказал 95% вероятность, что выиграет первый матч, хотя выбор героев казался равнозначным для людей. Боты взяли верх за 21 минуту и 37 секунд. Второй бой длился чуть больше, 24 минуты и 53 секунды, но нейросеть вновь верно предсказала победу — с вероятностью 76,2% после драфта.