OpenAI замедлила обучение новых ИИ-моделей из-за киберугроз

В своём заявлении компания также упомянула важность человеческого контроля.

OpenAI временно снизила темпы обучения своих новых ИИ-моделей на фоне растущих рисков в сфере кибербезопасности. Об этом компания сообщила в своём блоге.

В OpenAI объяснили решение тем, что системы мониторинга и защиты должны развиваться быстрее, чем возможности самих нейросетей. Поэтому разработчики решили временно замедлить масштабирование моделей и сосредоточиться на безопасности инфраструктуры.

Пауза продлилась около двух недель. За это время специалисты усилили защиту исследовательской среды, провели дополнительные проверки систем безопасности и расширили мониторинг потенциальных угроз.

В компании связали решение с двумя недавними событиями, одним из которых стал взлом платформы Hugging Face. Кроме того, специалисты обнаружили, что будущая модель Astra может приблизиться к порогу критических возможностей в области кибербезопасности.

Для Astra и других профильных разработок ввели наиболее строгий уровень защиты. В частности, речь идёт об изоляции рабочих нагрузок, постоянном тестировании систем и дополнительных ограничениях сетевого доступа.

OpenAI также усилила контроль за действиями самих моделей. Если система фиксирует потенциально опасное поведение, специалисты получают предупреждение в течение получаса. Если тревогу не признают ложной, активность модели автоматически приостанавливается.

Отдельное внимание компания уделяет человеческому контролю. OpenAI продолжает исследования, которые должны помочь точнее удерживать поведение моделей в рамках заданных целей и снижать риски при росте их возможностей.

Усиление контроля становится актуальным не только для разработчиков ИИ. В digital-среде всё больше процессов автоматизируется, поэтому бизнесу важно сохранять прозрачность и управляемость рабочих инструментов. Например, в Vitamin.tools агентства, фрилансеры и маркетологи могут работать с рекламными бюджетами через единый кабинет, получать закрывающие документы, решать задачи с маркировкой рекламы и получать вознаграждение с пополнений. Это помогает сократить количество ручных операций и при этом сохранять контроль над рекламными расходами.