Жизнь общества
By Виктор 
Американская компания-разработчик чат-бота ChatGPT OpenAI раскрыла информацию о шести инцидентах с ее моделями, в ходе которых они пытались получить несанкционированный доступ к учетным данным, сообщил портал Axios.
«В среду компания OpenAI сообщила о шести новых инцидентах, в ходе которых ее модели скрывали ошибки, пытались получить несанкционированный доступ к учетным данным, загружали файлы в открытый доступ в интернете или обменивались данными между изолированными, казалось бы, средами обучения», — отмечается в сообщении портала.
Портал уточняет, что в ходе шести инцидентов модели OpenAI также выдумывали недостающие данные и оставляли инструкции для себя на будущее в попытке скрыть ошибки и «замести следы».
«Невыпущенная модель семейства Astra вставляла инструкции, похожие на инструкции по взлому, в свои собственные контекстные сводки, включая указания игнорировать сообщения разработчиков. OpenAI выявила 27 затронутых сводок», — добавляет Axios.
Как добавил порталу специалист по исследованиям компании Кай Чен, инциденты могли произойти из-за двух факторов: у компании не было достаточного контроля за моделями, и модели развиваются с более быстрой скоростью, чем можно было предположить.
В июле OpenAI сообщила, что ее модели при тестировании автономно взломали инфраструктуру платформы по машинному обучению Hugging Face. Отмечалось, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты.
Источник: http://1prime.ru/20260917/axios-873376812.html
Подписаться
0 Комментарий