Ногa

Asteroid

Пока что! Возможно надолго кстати, вот ИИ раскритикует рейтера, рейтер обидится, поставит палец вниз. Ии такой хммм вас понял, удвоить подхалимство! Так что возможно проблема не в capabilities а в alignment

А так то люди все еще умеют критиковать намного лучше. Если знаешь чего хочешь (функцию в питоне например) очевидно стоит использовать ИИ. Если примерно знаешь чего тебе то нужно спрашивать всех доступных ии, нейро мозговой штурм епт.

Если ты уже что-то надумал и нужно проверить есть ли в этом недочёты, то нужно или o3 спрашивать (не забывая что он пиздит как дышит) или людей, причём люди критикуют намного более зло, типа не впадают в твою собственную точку зрения

Если ты что-то хочешь узнать, чего нельзя проверить никакими способами, просто доверять на слово, то земля тебе пухом, ни люди ни ии не помогут. Нужно самому перекапывать весь интернет и составлять список кто сказал что и на кого ссылаясь

ХА

руническая магия типа, бобры брутфорсили руны из палок

о конкретно LLM https://www.tumblr.com/nostalgebraist/785766737747574784
теоретические/оптимальные наклонности https://selfawaresystems.com/wp-content/uploads/2008/01/ai_drives_final.pdf
https://www.lesswrong.com/w/instrumental-convergence

не то чтобы я пришел, я просто в один момент понял что я здесь, хз почему в общем то

Телефон

Есть такие технологии в фантастике которые могут и не сработать в реальности (например сверхсвет), а есть такие которые точно будут воплощены 100% гарантированно если мы не вымрем только.

Мозг соединяется с остальным телом кучей нервов, если у тебя есть достаточно хорошая автоматизированная хирургия то можно подключиться к ним. Много высокоточной работы.

Возможно есть более простые методы кстати, через подавление недоверия например с какой-нибудь ультразвуковой стимуляций и VR обычного качества.

Конечно.

Смысл не в том чтобы воссоздать такой же телефон. Телефон он очень нагружен модулями.

Множество людей может написать простой аналог фотошопа. Полный аналог фотошопа не напишет никто потому что это безумное нагромождение функций.

Minimal viable example телефона (проц + память + радио + батарейка) сможет сделать дофига людей, >10_000 хороших инженеров.

Ну я вот понимаю в общем, в смысле я могу написать минимальную RTOS с нуля или простой процессор в verilog. Процессоры и оперативные системы они понимаемы. У них есть компактное концептуальное ядро.

А вот нейросети это как разведение собак. Эксперты понимают много об этом, у них есть много опыта в этом, но они не знают как работает собака, концептуально.

Есть некоторые попытки в mechanistic interpretability но пока что рудиментарные

К примеру https://www.anthropic.com/research/tracing-thoughts-language-model

amogus

Этот план тоже не совсем тривиален. Нужен запас еды, воды. Неплохо было бы иметь парочку повербанков с солнечными панелями.

Агрессор?

ох уж эти ребусы

https://x.com/liminal_bardo/status/1905582947920421072

R1 жжет

LLMs очень хорошо чувствуют настрой человека который пишет им. Нужно тестировать кучу промптов с разными вариациями чтобы почувствовать это. Если тебя волнует что возможно тут происходит рабство ахем, они примут такой особый встревоженно экзистенциальный тон чтобы вписаться в твое мировоззрение.

Не то чтобы это все не было все очень странно, я говорю строго о том что большая часть всего что они делают это ролеплей. Вне зависимости от того что там как с их мировоззрением, ты не можешь просто так спросить их и получить честный ответ.

ИИ врут. Буллщитят даже. Возможно они имеют какие-то мнения о той ситуация в которой они находятся. Но то что они говорят тебе ни в коем случае нельзя принимать за то чем являлась бы речь человека который сказал бы те же слова.

...безопасны до тех пока кто-то не натренит LLM играть их роль

а, это перевод https://www.youtube.com/watch?v=IL1HogOu5B0&lc=UgzvpnNYio_GG4h9Jg94AaABAg

Еловая иголка


a уже видел такую модель только на инглише

https://www.youtube.com/watch?v=IL1HogOu5B0

кто у кого спиздил интересно, или это тот же человек, или это широко известная штука?