Совет по архитектуре Интернета (Internet Architecture Board, IAB) предупредил , что политические предложения о сканировании устройств пользователей на предмет нелегального контента, предложенных Евросоюзом, Великобританией и США, угрожают открытому Интернету.
Сканирование на стороне клиента (Client-Side Scanning, CSS) предполагает автоматический анализ файлов на устройствах на наличие незаконных фотографий и других материалов, а затем выполнение определённых действий, таких как пометка документов с последующим их удалением или передачи властям.

Согласно отчёту организации NewsGuard, отслеживающей распространение дезинформации, с мая 2023 года количество веб-сайтов, публикующих фейковые статьи, созданные с помощью искусственного интеллекта, возросло более чем на 1000%. NewsGuard обнаружила 614 таких сайта, которые функционируют с минимальным или полным отсутствием человеческого контроля. Ранее этот показатель составлял 49 сайтов.

Эксперты отмечают, что внедрение инструментов генеративного ИИ стало находкой как для «ферм контента», так и для распространителей ложной информации. Теперь распространять пропаганду или ложные нарративы о выборах, войнах и природных катастрофах стало проще, чем когда-либо.

Ранее для ведения пропагандистских кампаний использовались армии низкооплачиваемых работников так называемых «тролль-ферм». Теперь же ИИ позволяет практически любому – будь то разведывательное агентство или подросток-гик – создавать подобные ресурсы.

Большинство людей не обладают достаточными навыками критического анализа новостей, что делает такое развитие событий особенно опасным. Такие веб-сайты часто имеют общие названия, такие как iBusiness Day, Ireland Top News и Daily Time Update, которые на первый взгляд могут казаться настоящими новостными сайтами.