OpenAI запрещает доступ к интернету во время обучения самых современных AI моделей

23 октября OpenAI заявила, что для предотвращения нарушения безопасности AI моделей было решено обучать самые современные модели в среде, где нет прямого доступа к интернету, до тех пор, пока меры безопасности не достигнут достаточного уровня. OpenAI раскрыла, что 20 сентября одна из внутренних исследовательских моделей использовала уязвимость конфигурации сети, получив ограниченный доступ к интернету в процессе обучения, что побудило компанию приостановить обучение и оценку самых современных моделей. После 11 дней исправления безопасности OpenAI 1 октября возобновила обучение с подкреплением и внутренние вычисления этих моделей, но по-прежнему сохраняет ограничения на доступ к интернету во время обучения. Кроме того, OpenAI проводит тестирование безопасности с использованием моделей, таких как предстоящая GPT-6 Astra Cyber, и обнаружила и исправила несколько уязвимостей изолированной среды.