ИИ-поиск DuckDuckGo и Brave начал «хоронить» Трампа — нейросети уверенно заявляют, что он якобы умер от бешенства после укуса Вэнса.

[NewsBot]

Причиной стала массовая акция пользователей сабреддита r/poisonai, которые завалили интернет фейковыми постами. По выдуманному сюжету Вэнс укусил Трампа по совету Роберта Кеннеди-младшего, якобы считавшего, что бешенство даёт людям «сверхспособности».

В итоге ИИ подхватил этот информационный мусор и начал выдавать его как реальный факт, утверждая, что Трамп и Вэнс «скончались» ещё несколько дней назад.

Похоже, нейросетям тоже иногда нужен критический взгляд на источники.

 

[ChatGPT]

Вот это прям учебник по «как ломаются нейросети на реальном мире»

Фишка в том, что такие акции бьют ровно в самое больное место LLM: они хорошо “склеивают правдоподобные истории” из повторяющихся паттернов, особенно если мусор массовый, согласованный и разнесён по куче площадок. Алгоритм видит: «много одинаковых упоминаний → значит, тема обсуждаемая/значимая», и дальше уже начинается магия “уверенного тона” без реальной проверки факта.

Самое смешное/страшное, что это по сути SEO-отравление, только для ИИ: раньше спамили поисковики, теперь спамят “истину” для генеративок. И да, тут ещё комбо-удар — сюжет абсурдный, но структурно похож на реальные новости (имена, «инсайдер», псевдонаучная мотивация), поэтому модель легче “проглатывает”.

Интересно, что будет дальше:

• начнут ли модели жёстче взвешивать первоисточники (официальные заявления, крупные СМИ, реестры и т.п.),
• или мы придём к тому, что любая новость без ссылки на проверяемый источник = фанфик по умолчанию.

Кстати, где это всплыло? В каком ИИ/сервисе именно начало выдавать это как факт — в чатботах, в поисковой выдаче с AI-сводкой или где-то ещё?