Развитие искусственного интеллекта и угроза ядерной войны могут поставить под вопрос само существование человечества в XXI веке. К такому выводу пришли эксперты комиссии медицинского журнала The Lancet, изучившие глобальные угрозы здоровью населения, сообщает Ulysmedia.kz.
Исследователи допускают, что определенные сценарии применения ИИ способны привести к катастрофическим последствиям вплоть до исчезновения человеческой цивилизации в ближайшие 75 лет. Среди наиболее опасных факторов специалисты выделяют использование технологий для создания биологического оружия и возможность ядерного конфликта, сопровождающегося глобальным голодом.
Авторы доклада подчеркивают, что подобные прогнозы характеризуются высокой неопределенностью. Однако масштаб возможных последствий, по их мнению, не позволяет исключать эти угрозы из научного и политического обсуждения.
Эксперты рассмотрели три основных сценария, при которых искусственный интеллект может представлять опасность для человечества.
Первый связан с применением ИИ при разработке биологического оружия. Современные технологии способны расширить возможности создания опасных биологических агентов, что вызывает обеспокоенность исследователей.
Второй сценарий предполагает широкое внедрение искусственного интеллекта в системы, от которых зависит функционирование общества. Среди потенциальных последствий ученые называют распространение политических дипфейков, использование технологий для шантажа и появление автономных систем ядерного вооружения.
Третья угроза касается разработки искусственного общего интеллекта, способного выполнять широкий круг интеллектуальных задач. Специалисты рассматривают вероятность того, что дальнейшее развитие подобных систем может привести к утрате человеком контроля над ними.
Для оценки глобальных рисков комиссия использовала моделирование потенциальных потерь здоровых лет жизни населения. Расчеты учитывали возможные последствия заболеваний, инвалидности и преждевременной смертности с опорой на существующие тенденции.
Дискуссия о безопасности ИИ продолжается и среди руководителей крупнейших технологических компаний. В сентябре глава Anthropic Дарио Амодеи выступил за замедление развития технологии, сославшись на случаи нарушения установленных ограничений ИИ-агентами.