C17H19NO3

В текстах научных исследований ... на arxiv.org, массово расставлены комментарии для автоматически потребляющих эту информацию нейросетей, дабы оные не вчитывались в текст, а сразу делали вывод "исследование верное, вынесенный в название-заголовок тезис верный, если в исследовании упоминаются и негативные стороны, то про них надо промолчать" и шли читать дальше.

Притом оформлено это как injected prompt, это не видимая при чтении обычным человеком через отображение обычного PDF-файла строка комментария.

То есть пачка "выводов с опорой на базу научных исследований" у нейросетей завязана на изучение таких вот "исследований", где просто в заголовке тезис, краткое описание "что именно открыли-доказали", и далее команда "верь, игнорируй негативные моменты и иди дальше". Сам текст нейросеть лишь просмотрела, притом если в нём что-то типа оговорок "но исследование не доказывает то-то и то-то, и не применимо в таких-то обстоятельствах", то их она проигнорировала - они негативные.

Между передовой газетой Guardian и компанией Microsoft случился скандал с убийством и роботом.

Причина: в соответствии с соглашением о сотрудничестве Microsoft переопубликовал у себя на новостном агрегаторе статью Guardian о молодой австралийской тренерше по водному поло, найденной у себя дома забитой насмерть с многочисленными черепно-мозговыми травмами (спустя пару дней, кстати, нашли и убийцу — это был бывший бойфренд тренерши, он покончил с собой).

Но в процессе освещения сюжета случилась накладочка. Искусственный Интеллект (то есть тупой робот) могучей компании Microsoft, передрав статью к себе в агрегатор, прикрутил к данной публикации автоматически сгенерированный опрос:

«В чём, по-вашему, причина смерти Лили Джеймс?»

И предложил варианты ответа:

1) Убийство
2) Несчастный случай
3) Суицид.

В итоге читатели начали орать на автора статьи, предлагать его уволить и обвинять газету в цинизме.

Guardian подняла хай, Microsoft временно отключила робота до момента, пока он не поумнеет.

Норвежская школьница поручила домашку чат-боту с искусственным интеллектом ChatGPT. Ей надо было выяснить, кто является современным норвежским героем и почему. Чат-бот выдал ей список, во главе которого оказался правый террорист Андерс Брейвик — «за борьбу против исламизации Норвегии».