Защита разумных агентов: платформа ASTRIDE для моделирования угроз

Новая платформа ASTRIDE позволяет автоматически выявлять уязвимости в системах, управляемых искусственным интеллектом, анализируя их архитектуру.

Новая платформа ASTRIDE позволяет автоматически выявлять уязвимости в системах, управляемых искусственным интеллектом, анализируя их архитектуру.
2025-12-06 03:33

Новое исследование показывает, что злоумышленник, знающий алгоритмы обучения противника, может эффективно использовать их слабости в стохастических играх безопасности.

Исследователи представили комплексную инфраструктуру для создания и обучения автономных агентов, способную генерировать сложные сценарии и адаптироваться к различным задачам.

Новое исследование показывает, что восприятие рисков, связанных с искусственным интеллектом, у старшеклассников напрямую зависит от уровня их знаний и понимания этой технологии.