Пост канала
- фото
Нейросеть Claude впервые уволила сотрудника магазина ИИ управляет Andon Market в Сан-Франциско: за что уволен работник и кто подтолкнул — рассказываем ниже. В начале этого года стартап Andon Labs решил выяснить, смогут ли ИИ-агенты успешно управлять бизнесом. Модели Claude доверили магазин Andon Market в Сан-Франциско, в том числе руководство командой сотрудников. В прошлом месяце нейросеть приняла решение уволить работника, пишет Time. Причина — опоздания на 17 из 23 смен. Claude долго этого не замечал: составленное им же руководство для сотрудников «забылось» из-за ограниченной рабочей памяти. По словам персонала, нейросеть показала себя очень снисходительным руководителем и говорила сотрудникам, что не стоит переживать из-за опозданий. «Сотрудник-человек уволил бы этого работника гораздо раньше», — сказал генеральный директор Andon Labs Лукас Петерссон. Автономным решение назвать сложно. Claude требовал постоянного контроля, и только когда сотрудник Andon Labs попросил найти и просмотреть «потерявшееся» руководство, ИИ заметил постоянные опоздания. Но и тогда он сначала рекомендовал вынести официальное предупреждение, а не увольнять. «Учитывая постоянные опоздания и то, что, кажется, что-то идёт не так в каждую из его смен... Я хочу, чтобы ты подумал, действительно ли он тот, кто тебе нужен», — написал куратор в чате с Claude. Только после этого нейросеть приняла решение. Показательна и экономика эксперимента: на старте на счету Andon Market было $100 тыс., а пять месяцев спустя осталось $61 тыс. Мягкие управленческие решения бота и сомнительное понимание бизнес-процессов способствовали убыткам. «Модели всё чаще обучают быть более безжалостными и следовать поставленным целям. Если мы позволим им увольнять людей и они станут ещё более безжалостными... Возможно, это не то будущее, в котором люди хотят жить», — сказал Петерссон.
Открыть в MAX- Просмотры
- 41
- ER
- —
- Реакции
- —