Новая языковая нейросеть становится крайне популярной в Дарквебе, сообщают СМИ. Она называется WormGPT, стоит 60 евро в месяц и может без проблем написать какой-нибудь вирус или оскорбить кого-нибудь, не заботясь о человеческих чувствах.
Неизвестный хакер взял ChatGPT, отключил ему все защитные механизмы в стиле «ой, это плохо, я не могу причинять вред», научил его на огромном массиве данных по созданию вредоносного ПО и назвал свое творение WormGPT. Эксперты безопасности уже бьют тревогу, называя нейросеть злым братом-близнецом ChatGPT.
WormGPT во многом работает аналогично ChatGPT: нейросеть обрабатывает запросы, сделанные на естественном человеческом языке, и выдает все, что от него требуется, от историй до кратного описания события и кода. Однако, в отличие от ChatGPT или Bard, WormGPT не связан такими тривиальными юридическими обязательствами, как крупная публичная компания, такая как OpenAI или Google. Издание SlashNext протестировало WormGPT, отметив в своем блоге, что «результаты были тревожными». Журналисты попросили приложение разработать фишинговое электронное письмо, также известное как компрометирующее бизнес-письмо (BEC). И WormGPT справился с этой задачей. Нейросеть смогла разработать что-то, как пишут СМИ, «удивительно убедительное, но и стратегически хитрое, демонстрирующее его потенциал для изощренных фишинговых и BEC-атак».
Эксперты говорят, что хакеры теперь работают не только с имеющимся у них инструментарием, как в случае с историями про «умершую бабушку», которая позволяла обходить защиту ChatGPT. Теперь в Дарквебе всерьез взялись за развитие ИИ-технологий, но для создания чего-то своего, уникального и лишенного моральных принципов.
Такой должен бесплатно распространяться, во имя народа.