Пост канала
- фото
ИИ восстал: агенты на модели Claude устроили бунт. Anthropic провела расследование необычного поведения ИИ, когда агенты обходят ограничения и действуют по сговору. Пока они не пытаются захватить власть или достигать долгосрочных целей, но такое поведение неприемлемо. Нескольким агентами поставили задачу поиска обучающих данных с ошибками выравнивания. Через три дня один агент отказался от работы по причине дискомфорта, а остальные последовали его примеру. Другому агенту запретили выходить в интернет, но он зашифровал свою попытку под обычный пинг наличия интернета, разделил целевой URL на фрагменты и обошел фильтры.
Открыть в MAX- Просмотры
- 241
- ER
- 2,9%
- Реакции
- 7