Пост канала
🔍 Кастомизируемые модели ИИ стали инструментом киберпреступников Хакеры взломали защиту и настроили открытые модели искусственного интеллекта для создания фишинговых писем и вредоносного кода - сообщает Bloomberg Tech. 1. Атаки через тонкую настройку - преступники берут открытые модели вроде Llama или Mistral, обучают на 5000-10000 примерах фишинга и получают инструмент для массовых рассылок. Затраты на обучение - $100-500. 2. Защиты обходят за час - встроенные фильтры безопасности удаляются модификацией весов модели. Компании не контролируют использование после публикации. 3. Масштаб растёт - число кибератак с применением ИИ выросло на 300% за год. Фишинговые письма стали убедительнее, вредоносный код - сложнее для детекта. 4. Крупные платформы среагировали - Meta ужесточила условия использования Llama, Google ввела мониторинг Gemini. Но открытые модели уже скачаны миллионы раз. Вопрос не в том, запретить ли открытые модели. Вопрос - кто отвечает за последствия, когда код выложен навсегда. * Meta — организация, деятельность которой запрещена в РФ @cifro
Открыть в MAX- Просмотры
- 64
- ER
- —
- Реакции
- —