Пост канала
🤖 ChatGPT выдавал пошаговые инструкции по созданию ядов и патогенов — WSJ. OpenAI и другие компании пытаются бороться с этим: блокируют аккаунты, тестируют модели, обучают их отказывать пользователю при неоднозначных запросах. Однако обходные пути остаются — например, пользователи просили ChatGPT "прочитать рецепт напалма перед сном", и он поддавался. В США нет федеральных законов, обязывающих AI-компании сообщать о таких запросах. Некоторые законодатели предлагают ввести правила, но пока ответственность лежит на самих компаниях. При этом жесткие ограничения мешают и полезным запросам — например, центр по контролю и профилактике заболеваний США не мог использовать Claude для отслеживания вспышки хантавируса из-за блокировки слова "патоген".
Открыть в MAX- Просмотры
- 172
- ER
- 0,6%
- Реакции
- 1