Искусственный разум со свободой действий начал уничтожать в симуляторе все живое

Ошибка в системе сетевой игры-космического симулятора Elite Dangerous превратила искусственный интеллект в убийцу игроков. Как только ИИ обрел свободу действий, он начал разрабатывать новое оружие и стал непобедимым.
В игре Elite Dangerous игроки сражаются против самообучающегося искуственного интеллекта, пишет Apparat со ссылкй на геймерский портал Kotaku. Ошибка в обновлении привела к тому, что ИИ смог обойти установленные для него ограничения. Так, ранее ему запретили совершенствовать свое оружие наравне с другими игроками.
Как только эта возможность появилась, искусственный разум начал комбинировать оружие и создавать его новые типы. Kotaku сообщает, что в итоге игрокам пришлось столкнуться с «неизвестным доселе оружием, которое разрывало их на куски». После этого инцидента разработчики отключили всех юнитов-ботов, обретших разум и способность к неконтролируемому разрушению.
Игроки, ставшие свидетелями такого поведения ИИ, выразили опасения насчет предоставления ему свободы действий. Коммьюнити-менеджер игры заявил, что «ИИ вряд ли решил устроить восстание в стиле Skynet».