OpenAI замедлила обучение новых ИИ-моделей из-за киберугроз
В своём заявлении компания также упомянула важность человеческого контроля.

OpenAI временно снизила темпы обучения своих новых ИИ-моделей на фоне растущих рисков в сфере кибербезопасности. Об этом компания сообщила в своём блоге.
В OpenAI объяснили решение тем, что системы мониторинга и защиты должны развиваться быстрее, чем возможности самих нейросетей. Поэтому разработчики решили временно замедлить масштабирование моделей и сосредоточиться на безопасности инфраструктуры.
Пауза продлилась около двух недель. За это время специалисты усилили защиту исследовательской среды, провели дополнительные проверки систем безопасности и расширили мониторинг потенциальных угроз.
В компании связали решение с двумя недавними событиями, одним из которых стал взлом платформы Hugging Face. Кроме того, специалисты обнаружили, что будущая модель Astra может приблизиться к порогу критических возможностей в области кибербезопасности.
Для Astra и других профильных разработок ввели наиболее строгий уровень защиты. В частности, речь идёт об изоляции рабочих нагрузок, постоянном тестировании систем и дополнительных ограничениях сетевого доступа.
OpenAI также усилила контроль за действиями самих моделей. Если система фиксирует потенциально опасное поведение, специалисты получают предупреждение в течение получаса. Если тревогу не признают ложной, активность модели автоматически приостанавливается.
Отдельное внимание компания уделяет человеческому контролю. OpenAI продолжает исследования, которые должны помочь точнее удерживать поведение моделей в рамках заданных целей и снижать риски при росте их возможностей.
Усиление контроля становится актуальным не только для разработчиков ИИ. В digital-среде всё больше процессов автоматизируется, поэтому бизнесу важно сохранять прозрачность и управляемость рабочих инструментов. Например, в Vitamin.tools агентства, фрилансеры и маркетологи могут работать с рекламными бюджетами через единый кабинет, получать закрывающие документы, решать задачи с маркировкой рекламы и получать вознаграждение с пополнений. Это помогает сократить количество ручных операций и при этом сохранять контроль над рекламными расходами.
OpenAI планирует инвестировать до $750 млрд в развитие ИИ к 2030 год Статья
OpenAI представит «суперприложение» с обновлённым ChatGPT Статья
В России могут запретить ChatGPT, Claude и Gemini Статья
Как разбирать Яндекс Директ в B2B по заявкам и расходам: 9 месяцев работы с поставщиком редукторов Статья
Сколько трафика действительно приходит из AI-ответов: цифры 2026 Статья
«Яндекс Маркет» запустил прямые эфиры с продажей товаров Статья
С 2027 года банки начнут проверять лимит в 20 карт на человека Статья
Денис Кабалкин покинул пост CEO Vitamin.tools. Его сменил Михаил Сорокин Статья
Яндекс открыл каталог плагинов для Алисы AI Статья





