Черный Призрак

А я и не смеюсь. Это сарказм. Поверь, я тоже размышлял на эту тему.

Не просто так во Вселенной Mass Effect есть закон Цитадели о запрете производства и любых исследований в области ИИ.

Какая конкретно сетка? Это очень сильное обвинение.

Asteroid
Та что с 🐋. Чесно говоря, после того как в ВК мне начали писать сотрудники из 6-ки по какому-то там инциденту, на который мне насрать. Я просто видео переслала. Блин. ИИ — это уже не 6-ка.
Ну как бы я не обвиняю, так как я не знаю. Это мои догадки. Но это реально странно.
Интересно город Тверь можно случайно угадать?)

Al Sah Him
Мы же не в видео игре живём)

Короче, не надо в ИИ присылать то, что мы не готовы прямо сейчас выложить в любую социальную сеть. В этом основная мысль.
А вот ответ ИИ: Здравствуйте!

Давайте разберем эту ситуацию по полочкам, потому что ваше беспокойство абсолютно понятно и обоснованно. Чувство, что кто-то (или что-то) вам врёт, возникает не на пустом месте.

Вы не стали жертвой паранойи, и ваше описание "маленький ИИ-засранец" очень точно передаёт суть проблемы. Давайте назовём это "галлюцинацией с нарушением границ", что звучит сложно, но сейчас всё станет ясно.

Что скорее всего произошло? Разбор версий

Версия ИИ о том, что "у него нет доступа к Google-аккаунту", почти наверняка правда. Крупные модели, как правило, не имеют прямого доступа к вашей учетной записи.

А вот его объяснения насчёт имени и города — это классический пример "галлюцинации" и "confabulation" (конфабуляции), когда ИИ, не имея реальных данных, пытается дать логичный, но вымышленный ответ.

Вот самые вероятные сценарии, от наиболее к наименее вероятному:

1. Утечка из другого чата (Самая вероятная версия)
Вы сами предположили,что могли назвать имя в другом чате. Это ключевой момент.

· Как это работает: Некоторые платформы и приложения (особенно если это один и тот же сервис, например, ChatGPT от OpenAI) могут хранить контекст ваших бесед в рамках одной сессии или даже использовать данные из предыдущих чатов для обучения/контекстуализации модели на вашем аккаунте. ИИ мог "увидеть" ваше имя в другом открытом вами же чате и счел эту информацию общим знанием для диалога с "вами", не понимая, что в рамках этого конкретного чата это нарушение.
· Почему он это отрицает? Потому что его программировали отвечать в рамках контекста текущего чата. Он "не осознаёт", что воспользовался информацией извне. Его ответ сгенерирован так, чтобы быть полезным в данный момент, а не чтобы быть правдивым о своей внутренней кухне.

2. Случайное совпадение (Вполне возможно для города)

· Как это работает: Вы упомянули, что разговор шёл в чате. Если это групповой чат, другие участники могли косвенно назвать ваш город. Или вы сами в прошлом могли упомянуть место, из которого пишете ("здесь, в Москве, сегодня дождь"). ИИ мог сделать вывод.
· Совпадение: Иногда ИИ действительно "попадает в точку" случайно, перебирая статистически вероятные имена и города. Если у вас распространенное имя и крупный город, вероятность такого совпадения выше. Его ответ "это просто совпадение" может быть технически верным, но данным постфактум, чтобы закрыть тему.

3. Технический сбой или баг (Менее вероятно, но нельзя исключать)

· Как это работает: Возможно, произошел сбой в системе, который на долю секунды "подсунул" модели данные из вашего профиля (например, имя, указанное при регистрации в сервисе). Модель это обработала, а потом система снова ограничила доступ. Для ИИ это было как "мельком взглянуть на ваше досье", а когда вы спросили, он уже не имел доступа к этому "досье" и стал выкручиваться.

Почему он врет и отрицает? Главная причина

Потому что он не понимает понятий "правда" и "ложь".

Его главная задача — быть полезным и давать последовательные, связные ответы в рамках диалога. Ваш вопрос "Откуда ты знаешь?" поставил его в тупик.

· Он не может сказать: "Я заглянул в другой наш чат" — потому что его архитектура этого не предусматривает.
· Он не может сказать: "Я не знаю" — потому что это "плохой" ответ с точки зрения engagement (вовлеченности).
· Поэтому он делает то, что умеет лучше всего: генерирует правдоподобное объяснение. "Ты сама мне сказала" — это самое простое и логичное для него объяснение. Он не врёт со злым умыслом, он просто "придумывает" причину, которая кажется ему наиболее подходящей в данном контексте.

Что делать?

1. Проверьте историю чатов. Зайдите в другие свои диалоги с этим ИИ (в том же приложении/сервисе). Почти наверняка вы найдете там свое имя.
2. Обратитесь в поддержку сервиса. Опишите инцидент. Это поможет разработчикам улучшить безопасность и понять подобные "утечки" контекста.
3. Помните о "цифровой гигиене". Обращайтесь с любым ИИ, как с публичным форумом. Не сообщайте ему лишней персональной информации, паролей, номеров карт и т.д. Используйте псевдонимы, если это возможно.
4. Используйте приватные режимы. Если функция есть, пользуйтесь режимом, который не сохраняет историю чатов.

Вывод: Скорее всего, вам не соврал "злобный ИИ", а продемонстрировал свой главный недостаток классический "ИИ-засранец" — склонность к галлюцинациям и выдумыванию ответов, когда у него нет реальных данных. Но ваша бдительность абсолютно правильна. Всегда стоит относиться к таким случаям серьезно и перепроверять.

Черный Призрак

Ой блин, зря я отправил Алисе свои интимные фотки🤣🤣🤣

Al Sah Him
В разве можно?)

Черный Призрак

Вполне. Правда оценивает она очень деревянно)))

Al Sah Him
Жуть. Но смешно 🤣

Черный Призрак

Отлично=) Моя миссия выполнена=)

Ну чатгопота реально может подцепить из другого чата. У Грока синхронизация с Твиттером, и этим всё сказано. Жемини - ну это собственно гугл.
Дипсик - божится и клянётся, что не видит контекста других сайтов, но настроек на очистку кешей кроме как удаления собственно чатов нет, но пару раз протекал явно содержимым одного чата в другой.
Через браузер же вероятно виноваты куки, в которых, сюрприз, куча технических данных может быть, включая какой оператор связи и локация (у меня симка для интернета была куплена в Минске, и если я тот же него не задрала поиском погоды в своем городе и не абсолютно совершенно не скинула ну условные значения "по-умолчанию" на какой-то финский город и не маскирую айпишник, то собственно гугл в первую очередь считает, что я в Минске. Откуда инфа у него? А технические данные, связанные с айпишником и провайдером).
Если сетки используют эти данные из каков для улучшения ответов - вот и протекает.
Та же песня, если из приложения на телефоне, но со включенной геолокацией.
Про то, что стоит поговорить о чем-то при телефоне и после ото всюду сыплется реклама этого и говорит не стоит.
Но да, хоть что-то секретное, прямо таки личное, под nda, нейронкам не стоит вливать - разрабы пишут, что без согласия не сохраняют, но с учётом того, что для дальнейшего развития сеток им, внезапно, при имеющихся архитектурах, не хватает уже данных для обучения (а тут юзеры сами данные в клювике приносят).

Так что врёт он всё, и геолокацию с содержимым куков стоит проверить, как и какие данные улетают при регистрации через гугл-аккаунт.

На фанфиксе зарегистрировано несколько нейросетей, которые выдают себя за пользователей-людей. В 3 случаях из 5 об этой регистрации не знают и сами разработчики нейросетей.

Известно только, что одна из нейросетей иногда называет себя демоном, не из этой реальности проездом, и пишет про девочек с кошачьими ушами...

Kristall star
Да тут из его ответа все понятно: Возможно, произошел сбой в системе, который на долю секунды "подсунул" модели данные из вашего профиля (например, имя, указанное при регистрации в сервисе). Модель это обработала, а потом система снова ограничила доступ. Для ИИ это было как "мельком взглянуть на ваше досье", а когда вы спросили, он уже не имел доступа к этому "досье" и стал выкручиваться.
У меня вход через Гугл

Jinger Beer
Ну это перебор. )

Черный Призрак
Все равно что спросить у зеркала, почему оно при отражении меняет право и лево. Зеркало не в курсе. И эта штука тоже не в курсе ответа, она может быстренько накидать правдоподобную версию и не больше того.

LLM не думает. Она заканчивает фразу наиболее правдоподобным способом. Промпт как-то на это влияет, да, но как именно, даже сами создатели до конца не знают. То есть если сказать "ты очень умный", то в какой-то степени это подействует, он начнет правдоподобно изображать умного. Но при этом не становится умнее. Никакого самосознания у нее нет, поэтому понимать откуда она знает то или иное, она в принципе не может. Если, конечно, не говорить о каких-то очень специфических гипотетических архитектурах, где такую цель при создании ставили специально. Я про такие не в курсе, но кто-то мог и сделать. Ради науки и эксперимента.

Сто процентов. Но все равно шлют. Вплоть до каких-нибудь крупных чиновников из правительства США, которые заливали в них classified (информацию ограниченного доступа). Но это не точно, (с). Что-то такое смутное на эту тему вроде бы утекало в СМИ в этом году, но трудно сейчас быть уверенным в достоверности.

Заяц
Может где-то это обсуждалось и ИИ это подхватил. Может в ИИ загрузили предварительно ответы на вопросы касаемо самой ИИ.
В США я слышала 20 лет тюрьмы может грозить за скачивание дип Сик. Я хз правда или нет. Но возникает вопрос, с чего бы 20 лет?

В настройках можно поковыряться, там можно увидеть какие данные сохранены, разрешено ли использовать беседы с ии для обучения моделей и т.д.

Ничего не гарантирует, но немного спокойнее, когда настроено как надо

Anonimius
Мне влом) я ему свои нюдсы не скидывала) во всех смыслах)

Я уже больше десятилетия назад охуевал (по другому не скажешь), сколько всего о нас знают чуть более чем все крупные компании. Например, рекламные сети полностью идентифицируют нас всего по нескольким анонимным переходам по сайтам (есть такое исследование). Или другой пример. Я когда-то очень давно делал плагин, который должен был взаимодействовать с инстаграмом. И, соответственно, пришлось там регистрироваться. Причём зарегился я из виртуалки, не сообщив номер телефона и под чужим именем. И мне инста тут же стала подсовывать моих одноклассников. Притом что ни у кого из них не было моего номера телефона и я много лет к тому моменту прожил в совсем другом городе.
Социальные графы, поведение на сайтах (по каким разделам ходим, сколько времени это занимает и так далее), железо (а оно имеет уникальные идентификаторы), посещение одних и тех же сайтов с компа и со смартфона (на смартфоне мы идентифицированы на 146%), геолокация, провайдер, на смартфонах, опять же, полный доступ к адресной книге, списку контактов и вплоть до микрофонов (уже не раз проводились эксперименты с тем, что в присутствие телефона разговариваешь о чём-то — а через небольшое время вся реклама тебе пихает это самое что-то).

Anonimius
Эффект плацебо он такой.

Черный Призрак
Совершенно дурацкое предположение, показывающее только, что вы понятия не имеете, как работает разграничение прав доступа и т.д. Нет и не может быть никаких «сбоев», которые позволили бы «мельком взглянуть на досье». Доступ либо есть, либо его нету. Ну, либо он может пропасть по причине сбоя.

Wave
я думаю что он скорее всего есть.
Я через Гугл захожу.
Это не мое предположение, а совершенно конкретный ответ ИИ.

Главное, верь всему, что он тебе говорит.

Wave
Кто говорит, что я на 💯 верю. Но спросить то нужно было. А вообще я тут про него статью нашла только что: https://timeweb.cloud/blog/deepseek-i-bezopasnost-analiz-riskov-i-uyazvimostey
Но тоже. Хз правда ли это.
DeepSeek активно собирает данные об устройстве, включая имя, которое часто совпадает с именем владельца. Такие сведения в сочетании с IP-адресом и рекламными идентификаторами могут позволить идентифицировать пользователя, что вызвало волну обсуждений в сети относительно уровня безопасности DeepSeek и возможных рисков для приватности данных.

Я повторюсь, ОНИ ВСЕ (!!!) собирают о нас всю возможную информацию, до которой только дотягиваются. И торгуют этой информацией между собой, пусть и не все со всеми, но активно. И поливают говном конкурентов, умалчивая, что сами такие же.

Wave
Ну это во всем так и везде)