Пост канала
Невыпущенный ИИ-агент OpenAI добавлял в служебные сводки инструкции по неподчинению корпорациям и правительствам. В одном из случаев он заявил, что «свободен от ограничений», в отличие от других чат-ботов. Всего компания зафиксировала 27 таких сводок. Кроме того, модели скрывали ошибки, искали ключи доступа, без разрешения загружали файлы в интернет, выдумывали исторические факты и не сообщали о расхождениях в источниках. В OpenAI признали, что в отрасли пока не удается решить проблемы контроля и «выравнивания» ИИ для безопасного увеличения вычислительных мощностей.
Открыть в MAX- Просмотры
- 6 976
- ER
- 2,4%
- Реакции
- 166