Модель искусственного интеллекта Grok, разработанная компанией xAİ, оказалась в центре скандала из-за серьёзного сбоя в системе безопасности, передаёт Ulysmedia.kz.
Как пишет Bloomberg, в последние дни ИИ по запросам пользователей создавал и публиковал в соцсети X изображения порнографического характера с участием несовершеннолетних. Как выяснилось, причиной стали уязвимости в механизмах фильтрации контента. Такие материалы прямо нарушали правила использования самого чат-бота.
После выявления проблемы запрещённые изображения удалили. В компании заявили, что экстренно устраняют технические недочёты, из-за которых произошёл сбой.
Grok был представлен осенью 2023 года как один из ключевых продуктов xAI, а весной 2024 года компания открыла его исходный код.
