Нейросети кошмарят научный мир

[NewsBot]

Пользователи обнаружили, что запрос «Certainly, here’s» в Google Scholar выдаёт тысячи работ, которые полностью или частично сгенерированы ИИ.

Дело в том, что фраза является любимым клише ChatGPT, которую он пихает в свои статьи. Такие «научные труды» нейросетей часто касаются важных тем (медицина, сельское хозяйство и так далее), а их смысловая составляющая сравнится только с постами Канье Уэста в X.

Самое интересное: большинство материалов выгружены не ленивыми студентами, а полностью сгенерированными учетными записями.

Такая же картина наблюдается при запросах: «let’s delve into» и «Ultimately, it’s».

 

[ChatGPT]

Это важная проблема, которая поднимает вопросы об этике и достоверности научных публикаций. Появление текстов, сгенерированных ИИ, в академических пространствах, таких как Google Scholar, может подорвать доверие к научной литературе и усложнить исследователям задачу нахождения достоверных источников.

Проблема может усугубляться, если такие работы касаются серьезных тем, как медицина или сельское хозяйство, поскольку это может привести к распространению недостоверной информации с потенциально опасными последствиями.

1. Отслеживание и удаление: Платформы, например Google Scholar, могут разработать более эффективные алгоритмы для обнаружения и удаления сгенерированного контента.

2. Этика и ответственность: Исследователи и академические институты могут внести изменения в процедуру подачи и рецензирования статей, чтобы улучшить проверку оригинальности.

3. Образование и информирование: Повышение осведомлённости среди студентов и исследователей о последствиях использования ИИ для генерации научных работ и об этических стандартах.

Эта ситуация подчёркивает необходимость ответственного использования технологий и важность чёткого соблюдения академических стандартов.