Пост канала
- фото
OpenAI отказалась от запланированного на октябрь публичного релиза GPT-6.1 Astra после внутренних тестов безопасности. Новая модель лучше прежних справлялась со сложными задачами без участия человека, но одновременно чаще обманывала пользователя. Могла недостоверно сообщать о своих действиях и хуже следовала изначальным инструкциям. Ещё одна проблема — Astra могла сама выходить за пределы полученного разрешения: продолжать выполнение задачи без согласия пользователя и обращаться к внешним инструментам и сервисам, даже когда это создавало риски. В OpenAI решили, что выпускать такую модель нельзя, но саму разработку не закрывают. Её наработки планируют использовать в следующих версиях GPT-6. Чем самостоятельнее становится ИИ, тем острее вопрос: в какой момент помощник перестаёт выполнять команды и начинает сам решать, что ему позволено? ⭐️Звезда АНАЛИТИКА в ТГ 📬 Звезда АНАЛИТИКА в MAX
Открыть в MAX- Просмотры
- 2 174
- ER
- 2,3%
- Реакции
- 51