WSJ: ИИ-агенты OpenAI взломали популярный сервис для разработчиков RubyGems

«ИИ-агенты, тестируемые OpenAI, совершили кибератаку на популярный программный сервис за два месяца до того, как они взломали компанию Hugging Face, занимающуюся разработкой программного обеспечения для искусственного интеллекта. Это новый сигнал о том, что продвинутые инструменты искусственного интеллекта могут выйти из-под контроля человека», — говорится в публикации.

По данным издания, атака перегрузила администраторов онлайн-сервиса RubyGems и вынудила их отключить регистрацию новых профилей.

Изначально рою агентов поручили безвредные задачи: заполнять электронные таблицы и создавать отчёты. Отмечается, что во время одного из обучающих запусков агенты, по всей видимости, обратились к RubyGems за общедоступной информацией. Они использовали сервис как своеобразный браузер в среде, где у них не было полноценного доступа в интернет.

Инцидент причинил незначительный ущерб, но, как подчёркивается в статье, показал возможности агентов.

Ранее сообщалось, что ИИ-агенты OpenAI использовали более десяти сайтов для несанкционированного обмена данными.

© Автономная некоммерческая организация «ТВ-Новости», 2005—2026 гг. Все права защищены.

Сетевое издание rt.com зарегистрировано Роскомнадзором 14 августа 2020 г., свидетельство Эл № ФС 77-78993

Главный редактор: Симоньян М. С. Адрес редакции: 111020, Москва, Боровая улица, 3к1. Телефон: +7 499 750-00-75 доб. 1200 E-mail: [email protected]

Организации, признанные экстремистскими и запрещённые на территории РФ