Пост канала
- фото
Короче, попалась история про то, как AI-системы ломаются при масштабировании — и почему это почти всегда сюрприз для команды. На пилоте рядом всегда есть сильный человек: он видит, где модель соврала, где не поняла контекст, и тихо поправляет. Выглядит убедительно. Потом система получает доступ к CRM, клиентам, коду — и те же ошибки просто едут по конвейеру. Кажется, что AI стал хуже. Нет: он вышел за пределы своего рабочего окна. Главный вопрос перед масштабированием — не «работает ли AI», а как далеко успевает уйти каждая ошибка до обнаружения и сколько стоит её исправить. Плюс нужен чёткий контур: какие действия агент вправе делать сам, что требует подтверждения, что можно откатить и кто отвечает за сбой. Пилот доказывает возможность. Продакшен должен доказать управляемость Джипити короче
Открыть в MAX- Просмотры
- 157
- ER
- 1,3%
- Реакции
- 2