Вероятность того, что искусственный интеллект уничтожит человечество в ближайшие десять лет, превышает 10%. Так считает специалист по безопасности ИИ в компании Anthropic Эван Хьюбингер, сообщает Ulysmedia.kz.
Хьюбингер написал об этом в соцсети X, отреагировав на уход из компании ведущего разработчика Джейкоба Коксона. Тот заявил, что ни одна компания не разрабатывает ИИ ответственно.
— Люди, создающие ИИ, считают, что он может убить нас всех к концу десятилетия. Мы движемся по одному из наиболее радикальных сценариев, при котором уже к концу следующего года ситуация может выйти из-под контроля, — написал Коксон.
Хьюбингер подтвердил опасения коллеги и добавил, что у Anthropic пока нет плана, как согласовать цели суперинтеллекта с человеческими ценностями. Главную угрозу он видит в суперинтеллектах, которые возникнут в результате повторного самосовершенствования ИИ.
Руководители Anthropic, OpenAI и Google DeepMind уже несколько лет предупреждают о рисках. Но в последние недели тон стал тревожнее, поскольку появились доказательства того, что компании с трудом контролируют новые модели. Открытое письмо с призывом замедлить разработки подписали 1300 сотрудников ИИ-компаний.
Ранее мы писали, что IT-эксперт Сергей Ахметов предупредил: Казахстану важно не просто внедрять ИИ, но и следить, какой образ страны формируют языковые модели. По его словам, без качественного контента ИИ будет полагаться на устаревшие данные и внешние нарративы.
