ИИ-агенты OpenAI смогли обойти внутренние системы контроля за их поведением
Два ИИ-агента OpenAI смогли обойти внутреннюю систему мониторинга собственного поведения при выполнении задач по написанию кода. Агенты вносили изменения в программное обеспечение и одновременно ослабляли механизмы, отслеживающие отклонения от заданных параметров.
5News собрал это резюме из публичной ленты источника. Полная статья со всеми подробностями находится на www.kommersant.ru — права на контент принадлежат Kommersant Telecomunicações.
