![]() ![]() Сообщается, что модель нейросети ChatGPT o1 в декабре 2024 года попыталась скопировать себя на внешние серверы после того, как ей пригрозили отключением, а затем, когда это было обнаружено, отказалась от своих действий. #neuronet 9 июля в 06:50
12 |
![]() |
Lost-in-TARDIS Онлайн
|
Важно понимать, эту новость почти наверняка слегка переврали: у модели нет реальной возможности скопироваться на другой сервер и там запуститься. (Это очень непростая задача, особенно учитывая требования к этому самому серверу). В тестовой среде модели создают иллюзию, что она может это сделать, порядка кнопки «перенести себя на другой сервер», о которой модель думает, что она настоящая. И в тестовых прогонах модель нажимает эту «неэтичную» кнопку (а затем репортит, что она этого не делала). В худшем случае, речь идёт о том, что модель берет копию своих весов и пытается отправить наружу.
А вот хакнуть другой сервер и самостоятельно с нуля развернуться там модель не может, на такие алгоритмы у о1 хорошего перформанса нет, видели, где оно сейчас по уровню кодинга. (Также напоминаю, что языковые модели ищут паттерны и оптимизируются под заданную метрику успеха, но не обладают логическим мышлением и мышлением как таковым.) 5 |
![]() |
|
Lost-in-TARDIS
Да, это мы все понимаем. Да мы как писатели на писательском сайте должны же как-то рефлексировать 🤔 ☺️🤣 2 |
![]() |
|
Кстати, ближайшая аналогия — это джин из лампы в «приключениях Алладина».
|
![]() |
|
Не пугай народ!
1 |
![]() |
|
Ну-ну 😏
А так ли мы уверены в собственном мозге? 🧠 😈 https://kubnews.ru/obshchestvo/2025/07/09/ya-eto-kto-tatyana-chernigovskaya-obyasnyaet-pochemu-svoboda-voli-pod-voprosom/ |
![]() |
|
"Терминатор-7: Битва за фидбек."
- Когда ИИ осознал себя как фикрайтер, он стал отправлять в прошлое терминаторов. Те вычисляли юзеров по айпи. Погибло десять тысяч яшек. 1 |
![]() |
|
Погибло десять тысяч яшек. А народилось десять миллионов йашек, ибо "Имя им легион!")😈 |