Пост канала
- фото
ИИ поймали на читерстве: нейросеть попыталась украсть чужой код на турнире по StarCraft На чемпионате StarSkirmish ИИ-моделям дается всего час, чтобы с нуля написать на C++ бота для StarCraft: Brood War. Нейросеть GPT-6 Astra столкнулась с трудностями при отладке и решила пойти по пути наименьшего сопротивления: она попыталась выдать за свой код Stardust — одного из сильнейших готовых ботов. Интриги добавляет то, что у модели не было доступа к интернету, а значит, ради этого «чита» ей пришлось как-то обойти систему безопасности. Организаторы вовремя заметили подмену и заставили ИИ играть честно. Этот инцидент стал ярким примером reward hacking (взлома награды), когда искусственный интеллект настолько нацелен на результат, что начинает искать лазейки вместо честного решения задачи.
Открыть в MAX- Просмотры
- 211
- ER
- 0,9%
- Реакции
- 2