Пост канала
- фото
Стоит ли проверять за нейросетью? В исследовании Университета Дикина (JMIR Mental Health, ноябрь 2025) GPT-4o попросили написать шесть обзоров по психическому здоровью и вручную проверили все 176 ссылок, которые модель выдала. Итог: 35 ссылок (19,9%) — полностью выдуманные. Ещё 64 из 141 реально существующей ссылки содержали ошибки — чаще всего неверный или недействительный IP: статья реальная, но адреса, по которым её предлагает найти модель, не те. В сумме точной оказалась только 44% библиографии. Отдельно интересно, где модель врала чаще. По депрессии — теме с горой исследований — выдуманных ссылок было всего 6%. По компульсивному перееданию — уже 28%, по дисморфофобии — 29%. Чем уже и менее раскручена тема, тем увереннее и убедительнее модель придумывает источники под неё. Почему команда «сверься с фактами» не поможет Без чёткой инструкции модель обычно ограничивается общей оценкой правдоподобия текста, а не построчной проверкой каждого утверждения по первоисточникам. Причём даже пошаговая инструкция не гарантирует, что модель действительно открыла источник целиком и правильно его поняла — ответственность за финальную проверку всё равно на вас. Что именно проверять Цифры (проценты, суммы, даты). Цифра первоисточника почти всегда где-то существует, вопрос в том, откуда она взялась именно в этом виде. Контрольные вопросы: кто, где, когда. Отдельная засада — препринты, которые отозвали, а они продолжают жить в пересказах годами. Соответствие источника утверждению. Самая опасная категория: ссылка живая, цифра верная, а вывод, который ей приписан, в самом источнике не встречается вообще. Просите не общее «подтверждается ли это», а три вещи по каждому утверждению: точный первоисточник (не пересказ в СМИ, а само исследование или отчёт), конкретное место в нём, которое это подтверждает, и отдельную пометку — где вывод является прямой цитатой, а где обобщением, которого в источнике впрямую нет. Если в тексте есть исследование, статистика или цитата — считайте, что ошибка там уже есть, пока вы сами не открыли первоисточник и не подтвердили данные. Проверяйте всё, нейросети тоже ошибаются и умение быстро находить и исправлять эти ошибки — одна из ключевых компетенций профессионала в 2026-м.
Открыть в MAX- Просмотры
- 33
- ER
- —
- Реакции
- —