Учёные бьют тревогу из-за убийственных новых способностей искусственного интеллекта

Чат-боты, обладающие искусственным интеллектом, могут научить пользователя созданию биооружия. Об этом, проведя тестирование бота Claude, сообщил биохимик Рокко Касагранде, слова которого приводит Bloomberg.

А если чат-боты с ИИ могут помочь создать биологическое оружие, то и создание абсолютно нового вируса или токсина не будет чем-то невыполнимым. Авторы материала отметили, что комбинация синтетической биологии с искусственным интеллектом может представлять для человека огромную опасность, поскольку текущие системы защиты не справятся с тем, что может напридумывать ИИ.

Весной 2023 года Касагранде уже пытался привлечь внимание Белого дома к тому, что чат-бот могут использовать террористы, получив полный доступ к любым знаниям и материалам, а ещё инструкцию в придачу.

Учёный пришёл к таким выводам после исследования чат-бота Claude, который действительно мог предоставить информацию и рассказать о разных способах использования патогенов в ракетах. Инструкция по использованию также шла в комплекте с руководством.

Далее специалист раздобыл синтетическую ДНК, чтобы разработать один из предложенных патогенов, руководствуясь советами ИИ. Информацию он направил в администрацию президента США Джо Байдена, которому вместе с вице-президентом Камалой Харрис и советником по национальной безопасности Джейком Салливаном такая проблема показалась пугающей. В октябре Белый дом издал указ о контроле за исследованиями в области искусственного генома.

Ранее американский предприниматель Илон Маск высказал мнение о том, что искусственный интеллект с вероятностью 10–20% погубит человечество, однако позитивный сценарий всё ещё выглядит более вероятным.