ReFeRy: #нейросети Лениво слежу за развитием нейро-алисы в яндекс.браузере. На мой взгляд, это очень перспе

#нейросети

Лениво слежу за развитием нейро-алисы в яндекс.браузере. На мой взгляд, это очень перспективная штука именно с точки зрения массового использования - пересказ страницы, поиск информации на странице, генерация текста, исправление ошибок, озвучивание текста. Чем-то уже пользуюсь.

Открыл большой фанфик, около 700 т.с., открыл чат нейронки, она рапортовала, что всё прочитала и готова отвечать на вопросы. Попросил перечислить персонажей с описанием. И она села в лужу. Ещё парой вопросов выяснил, что проанализировала она около 100 т.с., не больше.

Просто заметка.

15 июля в 11:49

Отключить рекламу

6 комментариев

	Хэлен 15 июля в 11:51
пробегая мимо пнул Ты увез на Байкал сервера - 502 участились! Ждём фоточек) 3

Alex_P_Nest

15 июля в 12:05

Ещё парой вопросов выяснил, что проанализировала она около 100 т.с., не больше.

Вот как раз недавно читал статью про объем контекста у языковых моделей. Там автор пытался локальному Deepseek скормить "Лабиринт Отражений" Лукьяненко. Так вот в стоковом режиме, ему не хватило 40хх на 16 гигов, чтобы уместить в контекст всю книгу. Пришлось очень сильно допиливать руками и, упрощая, увеличивать память в ущерб качеству ответов и даже так она думала довольно долго.
Так-что подобное веселье станет массово-доступным лишь с кратным увеличением памяти в системах.

	Alex_P_Nest 15 июля в 12:36
Вот статья, если вдруг интересно. 2

	Скарамар 15 июля в 12:40
ReFeRy Попросил перечислить персонажей с описанием. подумалось - а ведь для книжных фандомов это же просто находка, если всё норм будет работать: не надо стопятьсот страниц лопатить в поисках описаний для персов)) 2

	ReFeRy 15 июля в 14:46
Скарамар Да. Но поработать всё же придётся. Можно по главам, записывать и сверять. И проверять цитаты, ибо может выдумывать. 2

	Скарамар 15 июля в 14:56
ReFeRy всё равно это получится быстрее, чем самостоятельно читать, тем более не все книжки могут зайти, а кактус грызть - то еще удовольствие даже ради фандома)) 2