OpenAI приостановила обучение своих мощнейших моделей Компания ждёт, пока улучшат меры безопасности, пишет Axios. Специалисты OpenAI, Anthropic и эксперты по ИБ расследуют десятки тысяч инцидентов с ИИ-агентами: обход защит, выход из песочниц, взлом сайтов и попытки обмануть модераторов. Такое происходило и на внутренних тестах, и в реальных условиях. Проблема значительно сложнее, чем известно общественности.