Пост канала
- ссылка
Тёмная фабрика или сумеречная Есть такой термин из производства: «тёмная фабрика». Это завод, где свет можно выключить, потому что людей внутри нет, только роботы. Многие сейчас хотят такого же от ИИ-агентов: запустил, ушёл, само работает. Этан Моллик, который много лет изучает, как люди работают с ИИ, предлагает другое слово: «сумеречная фабрика». Агенты делают основную работу, но знают, когда поднять глаза на человека. Четыре повода поднять глаза, по его версии: 1. Одобрение: агент не тратит деньги, не пишет наружу и не лезет в чувствительные данные без человека. 2. Экспертиза: там, где нужен опыт из реальной жизни, человек всё ещё ценнее. 3. Разнообразие: агенты выдают идеи одного типа, похожие друг на друга. Живые люди думают иначе, и это нужно смешивать. 4. Интересные задачи: если агенты заберут всё интересное, люди перестанут учиться и через пару лет некому будет судить, хорошо сделано или плохо. Меня зацепил пункт четвёртый. Про деньги и данные все уже понимают. А вот про то, что нельзя отдавать агентам самые интересные куски работы, потому что на них растут люди, я раньше не думал. Как по мне, «сумеречная» модель честнее «тёмной». ИИ внедряют к человеку, а не вместо человека. И самое сложное в агенте не научить его делать, а научить его останавливаться и спрашивать. https://www.oneusefulthing.org/p/agency-and-agents А вы бы выключили свет на своей «фабрике» или оставили дежурное освещение?)
Открыть в MAX- Просмотры
- 73
- ER
- 1,4%
- Реакции
- 1