Пост канала
- видео
В США зафиксирован первый задокументированный случай «непрямой инъекции» промпта в судебной системе. Мужчина вписал в ходатайство скрытый белым шрифтом приказ для нейросети, которая должна была анализировать дело: текст содержал требование соглашаться с позицией заявителя и добиваться нужного решения. Аферу раскрыли случайно, когда адвокат заметил странные артефакты при ручном просмотре документа. Судья Томас Спейдер вынес предупреждение, однако заявитель повторил трюк дважды. В итоге его лишили права на электронную подачу документов — теперь он обязан приносить их в канцелярию лично, на бумаге. Если ИИ уже используется для анализа судебных дел, манипуляция алгоритмом становится лишь делом техники. Пока судьи будут разбираться с белым шрифтом, следующая инъекция может оказаться спрятана в метаданных, структуре файла или особенностях шрифта. И тогда возникает вопрос: кто будет проверять каждую букву, если нейросеть уже приняла решение за человека, а судья просто подпишет готовый ответ? 📬Звезда АНАЛИТИКА в ТГ 📬Звезда АНАЛИТИКА в MAX
Открыть в MAX- Просмотры
- 3 412
- ER
- 2,8%
- Реакции
- 96