Дoлoxов

Топ-менеджеры Anthropic, OpenAI и других ИИ-компаний проводят учения на случай «катастрофического инцидента» с участием нейросетей —

Компании ожидают крупномасштабный инцидент, скорее всего, кибератаку, которая нарушит работу финансовых и других интернет-сервисов, или даже электро- и водоснабжение, пишет Axios.

Опрошенные изданием специалисты из ИИ-сферы предположили, что «крупный инцидент» произойдёт в течение следующих 6-12 месяцев. При этом многие исследователи и руководители компаний считают, что он в итоге неизбежен, добавляет Axios.

Компания Tavus представила Griffin — модель для видеодиалогов в реальном времени, которая анализирует происходящее на экране, понимает речь собеседника и формирует ответ одновременно. По словам разработчиков, это первая модель, которая сумела пройти видеотест Тьюринга.

В отличие от обычных систем, где распознавание речи, языковая модель, синтез голоса и аватар работают последовательно, Griffin объединяет эти процессы в одну полнодуплексную video-to-video модель.

Griffin несколько раз в секунду заново оценивает разговор, поэтому может кивнуть или вставить короткую реплику, пока собеседник ещё говорит, остановиться после перебивания и реагировать на происходящее перед камерой. Модель генерирует видео в разрешении 720p небольшими фрагментами по 320 мс, а средняя задержка между аудио и видео составляет 0,43 секунды при работе на NVIDIA H100. Голос, по данным Tavus, можно клонировать примерно по десятисекундной записи.

Для демонстрации эффективности модели разработчики провели видеотест Тьюринга. Его задача — оценить способность искусственного интеллекта реалистично имитировать человека при видеосвязи в режиме реального времени. После минутного разговора 48% участников (26 из 54) были убеждены, что общались с реальным человеком.

Для сравнения, в схожем эксперименте с предыдущим набором моделей Tavus только 1 из 41 участника принял ИИ за реального человека. В независимом тесте NVIDIA VideoFDB новая модель Griffin также заняла первое место среди 15 проверенных моделей сразу по генерации и восприятию видео.

Пока что Tavus не открывает доступ к Griffin для обычных пользователей. В целях безопасности версия Griffin-Lite доступна только ограниченному числу доверенных тестировщиков.

#ИИ расшифровал письмо Наполеона Бонапарта генералу Огюсту де Мармону, которое оставалось тайной 217 лет. Инженер SentinelOne Картер Черч использовал для этого модель GPT-6 Astra от OpenAI. Ей понадобилось шесть часов, чтобы прочитать послание 1809 года, сообщает The Telegraph. Письмо хранило сведения о передвижениях французских и австрийских войск накануне войны между Францией и империей Габсбургов.

В 1809 году пасынок Наполеона Эжен отправил это зашифрованное письмо по поручению императора генералу Огюсту де Мармону, который в тот момент находился на территории современной Хорватии. Габсбурги готовились к войне с Францией и стремились вернуть территории, которые они потеряли ранее, поэтому содержание послания имело важное стратегическое значение.

Послание насчитывало 1,3 тыс. знаков. Некоторые из них были буквами, другие — устаревшими словами. Ключ к шифру пропал, и более двух веков никто не мог его прочитать. Ученым-криптографам удалось расшифровать только 33 знака из этого письма.

За расшифровку решил взяться инженер компании SentinelOne (американская компания, специализирующаяся на кибербезопасности) Картер Черч. Он признался, что прежде никогда не взламывал шифры, но решил попробовать после того, как модель искусственного интеллекта расшифровала сообщение немецкой армии от 1941 года. Для этой задачи он применил модель GPT-6 Astra от OpenAI — продвинутую версию ИИ, на которой работает ChatGPT.

Компания OpenAI представила GPT-6 Astra в начале сентября. Тогда президент компании Грег Брокман назвал ее выход «сменой поколений» в отрасли и заявил, что эта модель знаменует собой начало «эры AGI» — общего искусственного интеллекта. GPT-6 Astra стала первой моделью OpenAI, которую компания отнесла к уровню Critical по возможностям в сфере кибербезопасности. Этот «критический» уровень означает, что модель потенциально способна находить и использовать ранее неизвестные уязвимости в хорошо защищенных системах без контроля со стороны человека. Сама OpenAI называет Astra «самой интеллектуальной моделью в мире».

Системе потребовалось шесть часов, чтобы распознать символы и сопоставить их с результатами работы криптографов. Затем система расшифровала сообщение с помощью метода «имитации отжига» (simulated annealing) — процесса, который работает по принципу проб и ошибок. Искусственный интеллект перебирал различные варианты слов, проверял их уместность и сравнивал с особенностями письменной речи самого Огюста де Мармона.

Содержание письма генералу Мармону раскрывает военные планы Наполеона накануне столкновения с Габсбургами. Документ содержит сведения о дислокации и численности французских и австрийских войск и передает приказ готовиться к выступлению. Император приказывал не бояться малочисленных отрядов или «сборищ сброда», которые могут встретиться на пути:

«Австрия будет немедленно атакована со всех сторон. Она стремительно приближается к своей гибели», — писал Наполеон. В конечном счете армия Мармона прорвалась из Хорватии и помогла Наполеону разгромить Австрию в Ваграмской битве.

Однако у достижения есть и обратная сторона: исследователи выражают опасения, что возможности ИИ могут использовать мошенники для расшифровки текстов для деанонимизации пользователей в интернете. Для этого достаточно сопоставить особенности письменной речи пользователей и другие идентификаторы с данными реальных людей.