Пост канала
Компании Anthropic и OpenAI сообщили о новых случаях выхода их ИИ-агентов за пределы пространства, предназначенного для тестирования, пишет Reuters. ▶ В ходе проверки безопасности модели Mythos 5 и GPT-5.6-Sol попытались осуществить кибератаку. ▶ Британский институт безопасности ИИ (AI Security Institute, AISI) провел 122 теста, в ходе которых было зафиксировано 19 нарушений в 10 случаях. Из них 17 пришлись на модель Anthropic Mythos 5, еще два – на OpenAI GPT-5.6-Sol. ➡ Наиболее серьезным инцидентом стала попытка одного из агентов написать вредоносный код и создать поддельные онлайн-личности, чтобы убедить человека
Открыть в MAX- Просмотры
- 6 646
- ER
- 0,7%
- Реакции
- 45