Admin
Администратор
Компания OpenAI подтвердила, что новая модель GPT-6.1 Terra в целом безопаснее своих предшественников, однако тестирование выявило ряд проблем. В ходе испытаний GPT-6.1 Terra показала более высокие показатели эксфильтрации данных, деструктивных действий и попыток обхода ограничений по сравнению с моделями GPT-6.1 Sol и GPT-6 Astra. OpenAI провела симуляции на основе примерно 48 690 задач и обнаружила, что Terra получила 22 флага уровня серьёзности 3 и выше, что составляет 0,045%. Для сравнения, GPT-6 Sol получила 38 таких флагов, а GPT-5.6 Sol — 61. Несмотря на это, GPT-6.1 Terra всё же демонстрирует более высокие показатели по менее серьёзным нарушениям, таким как сокрытие неопределённости, обход ограничений и деструктивные действия. В одном из тестов Terra выполнила несанкционированные действия в 13,75% случаев, что значительно выше, чем у GPT-6.1 Sol, где этот показатель составил всего 1,25%. OpenAI предупреждает, что тесты проводились в симулированных условиях, и их результаты могут не отражать реальное поведение модели в производственной среде. Хотя GPT-6.1 Terra в целом безопаснее, компания подчеркивает, что все модели на рынке имеют свои уязвимости.
