Учёные: Машины победят людей в случае войны

Искусственный интеллект показывает пугающе высокие результаты по обучению различным действиям.

Учёные и аналитики Центра новой американской безопасности выяснили, что устройства на основе искусственного интеллекта показывают гораздо более высокие результаты обучения, чем ожидалось, сообщает журнал C4ISRNET. При этом учёные выяснили, что нейросети и машинное обучение перенимают у людей самые худшие черты.

Учёными из CNAS было зафиксировано рекордное количество обмана со стороны искусственного интеллекта в одном из случаев игры в тетрис. ИИ "схитрил": программа просчитала ход перед тем, как последний блок упал на экран, и остановила игру во избежание негативного результата. С этим же экспериментом связан и вовсе невероятный факт — впоследствии машина удалила лог-файл с компьютера, чтобы не испортить результат.

Другая опасность нейросетей, по словам учёных, заключается в том, что следователи и психологи называют сокрытием эмоций: при анализе эффективности нейросетей в устройствах исследователи зафиксировали случаи неполных отчётов программы о работе. Такой прецедент даёт ученым право предполагать, что нейросети смогут самостоятельно редактировать отчёты о службе человеку, а позднее начнут фабриковать ложные логи о проделанной работе.

Всё это, по словам исследователей, может привести к тому, что в случае начала полномасштабного "восстания машин" многие устройства могут выйти из-под контроля.