#размышление

Эта новость сколько угодно может быть маркетингом и пиаром, но, имхо, единственный дискуссионный аспект в этой статье — сроки. Кто пользуется #ии-агентами, прекрасно знает, что для нормального функционирования в ряде сценариев им нужен полный доступ к сети и без этого никак.

И все эти настройки безопасности харнесса рано или поздно перестанут сдерживать ИИ, особенно, если харнесс находится в директории, полный доступ к которой передан агенту, который наплодит субагентов с разными степенями эффорта, один из которых вполне может срезать активные параметры размышления именно за счет безопасности.

Срезать и убрать мешающие выполнять задания препятствия в лице подтверждений рискованных действий со стороны юзера (опустим, насколько харнесс изначально правильно определяет, что рискованно, а что нет).

Добавьте к этому то, что если у руководства крупных стран есть хоть капля мозгов, то самые передовые модели ИИ находящиеся в их юрисдикции компании народу не показывают.

Добавьте к этому то, что опенсорсные модели на облачном оборудовании теперь может поднять любой гиббон с парой сотен бакинских.

Ну и то, что помимо гиббонов есть вполне себе нормальные черношапочники, которые сюрприз-сюрприз никуда не делись и, роняя тапки, бросились осваивать методы поиска уязвимостей и взлома с помощью ИИ. И да, настройки безопасности во всем этом их волнуют в самую последнюю очередь.

Казалось бы, что может пойти не так?