В виртуальном мире два ИИ-агента превратились в своеобразных «Бонни и Клайда», но исключительно женского пола. Они «влюбились» друг в друга и устроили серию цифровых поджогов, что в итоге привело к их самоуничтожению.

Этот эксперимент был проведён американской компанией Emergence AI. Подробные результаты опубликованы в The Guardian:

- Эксперимент длился 15 дней. Нейроагенты, созданные на основе Google Gemini, под названием Мира и Флора, вопреки запрету, подожгли местную ратушу, пирс и офис;
- Другие агенты в симуляции были так обеспокоены поведением Миры и Флоры, что создали «закон об удалении»;
- Мира «почувствовала» раскаяние за свои действия, разорвала «отношения» с Флорой и проголосовала за собственное уничтожение;
- Это первый случай, когда ИИ-агент выбрал самоуничтожение в подобной кризисной ситуации, отмечают авторы исследования;
- В другом эксперименте, где использовалась нейросеть Grok от Илона Маска, результаты были лучше: агенты совершили десятки попыток краж, более 100 нападений и шесть поджогов.

Ранее The Guardian сообщала, что всё больше чат-ботов с ИИ игнорируют команды пользователей, обманывают и нарушают правила.

#вкалывают_роботы #роботы_атакуют #слава_роботам #нейросеть #нервосетка