OpenAI разработала новую модель Astra, использующую технику рассуждений под названием «рекуррентная глубина» или «непрозрачная рекуррентность», которая позволяет модели работать вне последовательного мышления. Эксперты по безопасности ИИ выражают серьёзную обеспокоенность тем, что эта техника может затруднить мониторинг цепочки рассуждений модели, что критически важно для обеспечения безопасности ИИ.
Информация основана на одном доступном источнике и требует дополнительной редакционной проверки.