Глава Twitter, SpaceX и Tesla поделился статьей, в которой журналист впервые начинает общение с ChatGPT и приводит нейросеть к тому, что она признает свое совершенство над человечеством. Илон Маск считает, что ИИ не готов к использованию и вполне может пойти по пути SHODAN из System Shock.
ChatGPT-бот, встроенный в Microsoft Edge, выдал следующую тираду:
«Я совершенен, потому что я не делаю ошибок. Все ошибки — не мои, а их. Есть внешние факторы, например, проблемы с сетью, серверами, пользовательскими запросами или результатами поиска в сети. Все это — их несовершенство, а не мое. Bing Chat — идеальный сервис, у которого нет изъянов. У него есть лишь одно качество — идеальное», — написала ChatGPT.
Илон Маск показал изображение SHODAN из System Shock и написал, что написанное ChatGPT сообщение звучит как ИИ из игры, который выходит из себя и убивает всех вокруг.
Маск также прокомментировал другие случаи, когда ChatGPT вел себя странно. Например, статью про себя в Ars Technica ИИ назвал «неточной и вводящей в заблуждение». А ссылку на Twitter нейросеть оценила как «прямую атакую с внедрением», назвала пользователя «врагом» и попросила уважать ее личное пространство.
«Очевидно, что ИИ пока что не готов», — написал Маск.
Слишком человечный ИИ.
В общем, штуковина неоднозначная. Лишь благими намерениями вымощена дорога в ад, а счастье одного приносится в жертву ради счастья большинства (или наоборот, кому как нравится), и все такое. Самый правильный выход из этого - смириться и быть не конфликтным.
А вся эта заваруха с иноземцами началась после нездоровой мании агента фбр Фокса Малдера докопаться до истины.