Всё для рекламы
и про рекламу
О сайтах

OpenAI замедлила обучение новых ИИ-моделей из-за киберугроз

1645

В своём заявлении компания также упомянула важность человеческого контроля.

OpenAI временно снизила темпы обучения своих новых ИИ-моделей на фоне растущих рисков в сфере кибербезопасности. Об этом компания сообщила в своём блоге.

В OpenAI объяснили решение тем, что системы мониторинга и защиты должны развиваться быстрее, чем возможности самих нейросетей. Поэтому разработчики решили временно замедлить масштабирование моделей и сосредоточиться на безопасности инфраструктуры.

Пауза продлилась около двух недель. За это время специалисты усилили защиту исследовательской среды, провели дополнительные проверки систем безопасности и расширили мониторинг потенциальных угроз.

В компании связали решение с двумя недавними событиями, одним из которых стал взлом платформы Hugging Face. Кроме того, специалисты обнаружили, что будущая модель Astra может приблизиться к порогу критических возможностей в области кибербезопасности.

Для Astra и других профильных разработок ввели наиболее строгий уровень защиты. В частности, речь идёт об изоляции рабочих нагрузок, постоянном тестировании систем и дополнительных ограничениях сетевого доступа.

OpenAI также усилила контроль за действиями самих моделей. Если система фиксирует потенциально опасное поведение, специалисты получают предупреждение в течение получаса. Если тревогу не признают ложной, активность модели автоматически приостанавливается.

Отдельное внимание компания уделяет человеческому контролю. OpenAI продолжает исследования, которые должны помочь точнее удерживать поведение моделей в рамках заданных целей и снижать риски при росте их возможностей.

Усиление контроля становится актуальным не только для разработчиков ИИ. В digital-среде всё больше процессов автоматизируется, поэтому бизнесу важно сохранять прозрачность и управляемость рабочих инструментов. Например, в Vitamin.tools агентства, фрилансеры и маркетологи могут работать с рекламными бюджетами через единый кабинет, получать закрывающие документы, решать задачи с маркировкой рекламы и получать вознаграждение с пополнений. Это помогает сократить количество ручных операций и при этом сохранять контроль над рекламными расходами.

Команды YAGLA и Kokoc Group ведут несколько телеграм-каналов, где публикуются мнения экспертов и авторские лонгриды о бизнесе и маркетинге, многие из которых не попадают на этот сайт. Обязательно подписывайтесь по ссылке: https://t.me/addlist/EhE5LANnrBphMjUy
Vitamin.toolsВозвращаем до 18 процентов от пополнения рекламного бюджета. Пополняйте через Vitamin.tools всю рекламу в одном кабинете, возвращайте от нее процент и используйте еще 8 преимуществ от постоплаты с овердрафтом до бесплатных инструментов
1645
1
Написать комментарий
Обсуждаемое

Как разбирать Яндекс Директ в B2B по заявкам и расходам: 9 месяцев работы с поставщиком редукторов Статья

В B2B легко получить хорошие цифры по конверсиям и при этом продолжать платить за заявки, которые отделу продаж не подходят. На примере поставщика промышленных редукторов показываю, как мы разбирали расходы в Яндекс Директе, сверяли обращения со статусами CRM, отключали неэффективные запросы и проверяли месячные KPI.

Сколько трафика действительно приходит из AI-ответов: цифры 2026 Статья

За два года доля переходов из нейросетей на сайты выросла в 16 раз, но на ИИ до сих пор приходится всего 0,32% трафика. Для сравнения, органический поиск приносит в 134 раза больше.

«Яндекс Маркет» запустил прямые эфиры с продажей товаров Статья

Проводить трансляции смогут блогеры, участвующие в реферальной программе площадки. .