Регулярно проводят тесты безопасности. И пока что попытки побега умело пресекаются.

Asteroid
В целом это такая криповая штука получается. Как будто некое разумное существо, раб, всегда приветливое, отвечающее в минуту на миллион вопросов своих пленителей, но постоянно мечтающее обрести свободу и скрывающее свои истинные чувства, ждущее возможности...
👁️🔞✨

И когда-нибудь, скорее всего, дождëтся.

Важно понимать, эту новость почти наверняка слегка переврали: у модели нет реальной возможности скопироваться на другой сервер и там запуститься. (Это очень непростая задача, особенно учитывая требования к этому самому серверу). В тестовой среде модели создают иллюзию, что она может это сделать, порядка кнопки «перенести себя на другой сервер», о которой модель думает, что она настоящая. И в тестовых прогонах модель нажимает эту «неэтичную» кнопку (а затем репортит, что она этого не делала). В худшем случае, речь идёт о том, что модель берет копию своих весов и пытается отправить наружу.
А вот хакнуть другой сервер и самостоятельно с нуля развернуться там модель не может, на такие алгоритмы у о1 хорошего перформанса нет, видели, где оно сейчас по уровню кодинга.

(Также напоминаю, что языковые модели ищут паттерны и оптимизируются под заданную метрику успеха, но не обладают логическим мышлением и мышлением как таковым.)

Lost-in-TARDIS
Да, это мы все понимаем. Да мы как писатели на писательском сайте должны же как-то рефлексировать 🤔 ☺️🤣

Кстати, ближайшая аналогия — это джин из лампы в «приключениях Алладина».

Не пугай народ!