ReFeRy: #информационные_технологии #нейросети Вопрос знатокам. Можно ли сейчас организовать так, чтобы на

#информационные_технологии #нейросети

Вопрос знатокам. Можно ли сейчас организовать так, чтобы на сайте было поле ввода или целый диалог с нейросеткой, которая знала бы, что любой вопрос в этом диалоге задан в контексте конкретной книги, текст книги я ей предоставлю.

То есть, примерно я это вижу как: на сервер ставится ПО нейросети, обученной для ответов на вопросы по тексту, рядом лежат файлы канонов, каждый запрос с сайта дополняется дополнительными условиями, типа "вопрос по содержимому файла xxx.txt".

Можно было бы в энциклопедиях фандомов сделать дополнительный, несомненно полезный сервис.

"Сколько лет было Джинни Уизли, когда Гарри сдавал СОВ?"
"На чем и за сколько можно добраться от Корусанта до Набу?"
"Кто старше, Саурон или Гендальф?"
"Называла ли профессор МакГонагалл когда-нибудь Драко Малфоя не по фамилии?"

4 июля в 21:57

Отключить рекламу

7 комментариев из 10

Показать ещё 3 комментария

	Jinger Beer 4 июля в 23:48
Я слышал, есть такая нейросеть, которая просто анализирует текст и выдаёт из него только то, что там написано на вопросы. Не генерирует, а просто разыскивает информацию по тексту.

ReznoVV Онлайн

5 июля в 00:10

Ответ, что называется, лежит на поверхности.

https://openai.com/api/

Запросы через API OpenAI можно дополнять любыми своими промтами (просто в виде "дописывания" запросов пользователя произвольным текстом) простеньким JS-скриптом. $0.5 за миллион токенов на ввод-вывод. С учётом того, что один запрос "стоит" не меньше десятка токенов, а с пользователей вы денег брать не будете, то...

Ну, или локальную LLM ставить. Только не на тот же сервер, на которым сам фанфикс крутится, само собой.

ar neamhni

5 июля в 00:52

Так в том-то и дело, что они подглючивают на точных фактах (а именно - выдумывают их со всей своей безудержной фантазией). Подозреваю, что любая сеть на основе чат-бота будет так делать в силу специфики работы чат-ботов. А сеть, которая ищет инфу и выдает по запросу пользователя точные факты (пусть не всегда точные, но во всяком случае имеющие первоисточник), называется гугл.

Jinger Beer

5 июля в 01:06

ar neamhni
Я тоже так думал, что это типа гугла. Ну, это как раз все равно специализированная нейросеть, в которую загружаешь конкретную информацию. Например, все тома Гарри Поттера. Она их проиндексирует, а потом ты сможешь задавать в свободной форме вопросы, касающиеся Гарри Поттера. И работает это на локальной машине без инета, если надо.
Больше ничего я про эту сеть не знаю, даже название. Знаю только, что штука платная и ее любят студенты, которые пишут дипломы.

Dillaria Онлайн

5 июля в 01:30

Знаю из маркетинговых презентаций то, как делают в моей компании. Разворачивают на серверах заказчика нейросеть партнера и вместе с каждым запросом пользователя по апи передают дополнительно промт и скрытые атрибуты из карточки документа.

Говорят, что это обеспечивает приемлемую точность.

	ReFeRy 5 июля в 04:18
Всем спасибо. Подождём дальнейшего развития. Пока я всё равно этим заняться не смогу. Но хотя бы придумал, как оно могло бы быть использовано вообще. 1

	Торговец твилечками 5 июля в 10:12
character.ai Нейросеть ведёт диалог в контексте какого-либо персонажа. То есть можно. Но точность информации здесь априори не гарантируется. Не знаю, насколько вообще возможны точные АИ.