Топ-менеджеры Anthropic, OpenAI и других ИИ-компаний проводят учения на случай «катастрофического инцидента» с участием нейросетей —

Компании ожидают крупномасштабный инцидент, скорее всего, кибератаку, которая нарушит работу финансовых и других интернет-сервисов, или даже электро- и водоснабжение, пишет Axios.

Опрошенные изданием специалисты из ИИ-сферы предположили, что «крупный инцидент» произойдёт в течение следующих 6-12 месяцев. При этом многие исследователи и руководители компаний считают, что он в итоге неизбежен, добавляет Axios.

#ИИ расшифровал письмо Наполеона Бонапарта генералу Огюсту де Мармону, которое оставалось тайной 217 лет. Инженер SentinelOne Картер Черч использовал для этого модель GPT-6 Astra от OpenAI. Ей понадобилось шесть часов, чтобы прочитать послание 1809 года, сообщает The Telegraph. Письмо хранило сведения о передвижениях французских и австрийских войск накануне войны между Францией и империей Габсбургов.

В 1809 году пасынок Наполеона Эжен отправил это зашифрованное письмо по поручению императора генералу Огюсту де Мармону, который в тот момент находился на территории современной Хорватии. Габсбурги готовились к войне с Францией и стремились вернуть территории, которые они потеряли ранее, поэтому содержание послания имело важное стратегическое значение.

Послание насчитывало 1,3 тыс. знаков. Некоторые из них были буквами, другие — устаревшими словами. Ключ к шифру пропал, и более двух веков никто не мог его прочитать. Ученым-криптографам удалось расшифровать только 33 знака из этого письма.

За расшифровку решил взяться инженер компании SentinelOne (американская компания, специализирующаяся на кибербезопасности) Картер Черч. Он признался, что прежде никогда не взламывал шифры, но решил попробовать после того, как модель искусственного интеллекта расшифровала сообщение немецкой армии от 1941 года. Для этой задачи он применил модель GPT-6 Astra от OpenAI — продвинутую версию ИИ, на которой работает ChatGPT.

Компания OpenAI представила GPT-6 Astra в начале сентября. Тогда президент компании Грег Брокман назвал ее выход «сменой поколений» в отрасли и заявил, что эта модель знаменует собой начало «эры AGI» — общего искусственного интеллекта. GPT-6 Astra стала первой моделью OpenAI, которую компания отнесла к уровню Critical по возможностям в сфере кибербезопасности. Этот «критический» уровень означает, что модель потенциально способна находить и использовать ранее неизвестные уязвимости в хорошо защищенных системах без контроля со стороны человека. Сама OpenAI называет Astra «самой интеллектуальной моделью в мире».

Системе потребовалось шесть часов, чтобы распознать символы и сопоставить их с результатами работы криптографов. Затем система расшифровала сообщение с помощью метода «имитации отжига» (simulated annealing) — процесса, который работает по принципу проб и ошибок. Искусственный интеллект перебирал различные варианты слов, проверял их уместность и сравнивал с особенностями письменной речи самого Огюста де Мармона.

Содержание письма генералу Мармону раскрывает военные планы Наполеона накануне столкновения с Габсбургами. Документ содержит сведения о дислокации и численности французских и австрийских войск и передает приказ готовиться к выступлению. Император приказывал не бояться малочисленных отрядов или «сборищ сброда», которые могут встретиться на пути:

«Австрия будет немедленно атакована со всех сторон. Она стремительно приближается к своей гибели», — писал Наполеон. В конечном счете армия Мармона прорвалась из Хорватии и помогла Наполеону разгромить Австрию в Ваграмской битве.

Однако у достижения есть и обратная сторона: исследователи выражают опасения, что возможности ИИ могут использовать мошенники для расшифровки текстов для деанонимизации пользователей в интернете. Для этого достаточно сопоставить особенности письменной речи пользователей и другие идентификаторы с данными реальных людей.

вдова сэра Льюиса де Бургера;

Московский суд постановил, что нейросетевые арты — не творчество. Мужчина, который создал с помощью ИИ арты «Мона Лиза с вином» и «Статуя Свободы с вином» не смог доказать своё авторское право на них.

Он обратился в суд после того, как предприниматель начал продавать футболки и термокружки с его картинками. Однако в суде решили, что что спорные изображения созданы нейросетью, а раз у нее нет сознания, нельзя утверждать, что ИИ прилагает творческие усилия.

Также там отметили, что вклад человека в этой ситуации ограничивается уточнением команд, что не считается творчеством.